OpenAI con la ética de la inteligencia artificial

Contenido de post

Web Stories

La inteligencia artificial GPT2, desarrollada por OpenAI, es capaz de generar textos de manera predictiva, con el mensaje principal a comunicar. Un avance tecnológico de gran ayuda para los departamentos de comunicación sino fuera por su gran problema: esta AI es una fábrica de crear fake news.

OpenAI es la organización sin ánimo de lucro promovida por Elon Musk y empresas tecnológicas como Microsoft que buscan el desarrollo de la inteligencia artificial desde la ética y los valores.

Para entender el funcionamiento de GPT2 es mejor hacerlo con un ejemplo publicado por la propia compañía. Este es el texto que introducimos:

«Brexit has already cost the UK economy at least £80bn since te EU referendum».

A partir de aquí, la maquina predice en base al mensaje principal, una noticia de hasta siete párrafos con detalles como cargos públicos.

Algunos (malos) antecedentes

La tecnología cada vez es más inteligente, este es un buen ejemplo. Sin embargo, hay que educarla. Llámese educación o un buen desarrollo tecnológico de base. En los últimos años se han hecho públicos distintos casos en los que la tecnología, ha ido por caminos erróneos para los que no fueron diseñados:

La inteligencia de Amazon discriminó los currículums de mujeres que optaban al puesto de desarrolladoras de software en Amazon. El sistema se enseñó a sí mismo que eran preferibles los candidatos de género masculino (por ser más en su base de datos), así que penalizaba todos aquellos currículums que incluían referencias femeninas. La inteligencia discriminaba por género en lugar de experiencia o estudios. La solución de Amazon fue despedirla.

Otro caso distinto es el de Facebook. Sus dos robots basados en inteligencia artificial de buenas a primera entablaron una conversación entre ellos sin sentido para el humano.

Bob: “Yo puedo yo yo todo lo demás”

Alice: “bolas tienen cero a mi a mi a mi a mi a mi a mi a”

Detrás de estas misteriosas frases había un patrón. La IA creó su propio lenguaje más efectivo que el inglés. Lo que los investigadores han podido determinar es que “yo” y “a mi” reflejan la cantidad de objetos que obtendrán en el intercambio. Son frases más lógicas que adornadas, como solemos hacer en tantos idiomas “humanos”.

Estos robots entraban dentro de un programa que Facebook estaba desarrollando para crear chatbots capaces de negociar con humanos, sin que éstos se dieran cuenta.

Los límites de la AI

Por el momento, OpenAI ha optado por dejar en el cajón GPT2 y no publicarla por el riesgo que supone. Elon Musk, cofundador de OpenAI, ha dejado claro que cree que la inteligencia artificial “supone un riesgo fundamental para la existencia de la civilización humana”.

Al menos la inteligencia tal y como la conocemos así parece que es. La AI es vaga y si puede hacer trampas para hacerse “su vida” un poco más fácil, las hace. Muchos de los errores son de base, un fallo en el desarrollo que se daba por supuesto.

La inteligencia artificial llegará a nuestro día a día, es inevitable, pero el foco ahora mismo se debe centrar en desarrollar los robots con valores éticos; en equipos multidisciplinares formados por ingenieros y sociólogos. OpenAI ha hecho bien evitando publicar su herramienta de fake news. Aunque cuando consigan evitar este error, será una herramienta imprescindible para los equipos de comunicación y hasta los medios de comunicación.

Contenido de post

Queremos trabajar contigo

Agenda una reunión con nuestro equipo de consultores en marketing digital y lleva tu negocio en internet a una nueva etapa. ¿Hablamos?

Scroll al inicio

¡Suscríbete a la newsletter de Secada!

Recibe en tu correo los últimos artículos, podcast y proyectos que desarrollamos.

Agentes Digitalizadores del Kit Digital

¿Quieres dar un impulso a la digitalización de tu empresa?

¡Te podemos ayudar!

Abrir chat
💬 ¿Necesitas ayuda?
Hola 👋
¿Puedo ayudarte?