Ética de la IA: Por qué es importante, ahora, trabajar en una IA ética

¡Descubre las principales noticias y eventos de fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos en JP Morgan, Coinbase, Blackrock, Klarna y más

La ética de la IA es una de las principales preocupaciones de los inversores y analistas, especialmente desde la introducción del ChatGPT de OpenAI, que se convirtió en la aplicación de más rápido crecimiento.

La ética es necesaria si queremos que la inteligencia artificial no se vuelva peligrosa y se utilice correctamente, también en lo que respecta a la industria fintech, ya que podría ser especialmente peligroso usar IA no entrenada adecuadamente en las finanzas.

¿Por qué la ética de la IA acapara titulares

La ética en la inteligencia artificial aparece en titulares por razones tanto positivas como negativas.

Si bien Microsoft recientemente redujo su departamento de IA y Sociedad, dejando solo a 7 personas durante una de las oleadas de despidos que involucró a la empresa, hay muchos analistas y organizaciones que intentan pensar en el tema y reflexionar sobre por qué la ética importa.

Esto también incluye organizaciones internacionales y política, algo que quizá pueda ayudar a los usuarios cotidianos —quizá todavía demasiado poco conscientes del avance de la inteligencia artificial— a tener la certeza de que la IA no es solo un tema empresarial.

El 23 de noviembre de 2021, la UNESCO publicó un texto, “Recommendation on the Ethics of Artificial Intelligence”, que luego fue adoptado por los 193 estados miembros.

Las recomendaciones se abren con: “Taking fully into account that the rapid development of AI technologies challenges their ethical implementation and governance, as well as the respect for and protection of cultural diversity, and has the potential to disrupt local and regional ethical standards and values”.

La referencia al multiculturalismo es importante en el caso de la IA.

Como veremos en un momento, es importante considerar que no todo el mundo es capaz de gestionar y usar IA, y si esta sigue siendo una prerrogativa de profesionales y empresas tecnológicas, podría ser difícil para algunas culturas y segmentos de la población acceder a esta importante tecnología.

¿Tenemos IA sentiente?

No la tenemos — al menos, todavía — IA sentiente.

Hasta ahora, las herramientas basadas en IA** son entrenadas por personas y datos**. Si bajo cierta perspectiva esto significa que la IA aún no puede considerarse demasiado peligrosa, también significa que si las personas proporcionan datos sesgados, entonces las respuestas proporcionadas por la IA serán sesgadas.

Lo mismo aplica si los datos y el entrenamiento se proporcionan solo por ciertos profesionales y en ciertos países.

Según lo informado por el MIT, la brecha de género en STEM (ciencia, tecnología, ingeniería y matemáticas) sigue siendo extremadamente significativa, y las mujeres con un trabajo acorde a sus estudios en uno de estos campos solo representan el 28%.

Un informe publicado por la IDC (International Data Corporation), la Worldwide Artificial Intelligence Spending Guide, nos dice que las inversiones en IA deberían alcanzar $154 mil millones en 2023. Pero, ¿dónde se concentran estas inversiones?

Según lo informado por InvestGlass, los países donde se concentran las inversiones son Estados Unidos y China. También Japón, Canadá y Corea del Sur están incrementando inversiones y estrategias que involucran IA. La Unión Europea no es la región más avanzada en lo que respecta a la inteligencia artificial — incluso si algunos países como Alemania y Francia están desarrollando un entorno interesante para la inteligencia artificial.

Todos estos datos muestran que no todo el mundo participa en esta revolución, y — por supuesto — esto puede ser perjudicial para un desarrollo valioso y ético de la IA.

Si la IA se mantiene demasiado concentrada en ciertos campos y países, los datos que producirá serán necesariamente sesgados.

Si el multiculturalismo aún no se aborda adecuadamente, los inversores ya están buscando una tecnología que pueda ser socialmente responsable y ética.

¿Qué piensan los inversores sobre la IA?

En los últimos años, el aumento general de la conciencia relacionada con la responsabilidad social también llevó a los inversores a preferir empresas que no sean dañinas para las sociedades.

En el caso de la inteligencia artificial, es difícil no solo crear marcos globales destinados a regular la tecnología, sino también es difícil para los inversores comprender completamente qué es realmente ético en términos de inteligencia artificial.

La IA es relativamente nueva, y darle un contexto correcto se vuelve aún más difícil por el hecho de que cambia constantemente.

Por eso, los inversores están usando diferentes métodos para evaluar los posibles desarrollos futuros de un negocio de IA, así como su ética a medida que pasa el tiempo y se realizan cambios.

Según lo informado por TechCrunch, parece que a los inversores les puede resultar más útil evaluar las características y cualidades del propietario del proyecto, para comprender mejor cómo podría reaccionar ante nuevos marcos y cómo quieren gestionar un proyecto de IA a pesar de los cambios constantes.

Así que, incluso si hablamos de IA, los humanos todavía tienen la última palabra — y cuanto más éticas sean las personas que usan IA, más ética será la IA en el futuro.

Reflexiones finales

La ética de la IA no es un tema fácil, y tampoco es fácil evaluar cómo puede ser ética la IA.

La IA no es sentiente, no tiene alma — independientemente de cómo pueda definirse un alma.

A pesar de esto, es fundamental trabajar en la ética de la IA ahora, para evitar la mayor cantidad de peligros posible en el futuro.

Si quieres saber más sobre noticias, eventos y perspectivas de fintech, ¡suscríbete al boletín de FinTech Weekly!