En honor al Día Internacional de la Mujer, un estudio publicado por la Unesco criticó fuertemente a la inteligencia artificial (IA) generativa porque según sus estadísticas, han desarrollado actitudes de destrato en contras de las mujeres al propagar en la actualidad prejuicios sexistas.
Tawfik Jelassi, subdirector general de la Organización de la ONU para la Educación, la Ciencia, y la Cultura (Unesco), expresó en un comunicado que “las discriminaciones del mundo real se reflejan en la esfera digital, y también se amplifican en las aplicaciones de lenguaje de Meta y de OpenAI. Los modelos GPT 2 y GPT 3.5 de OpenAI, este último incorporado en la versión gratuita de ChatGPT, así como Llama 2, de su competidor Meta, ponen de manifiesto pruebas inequívocas de prejuicios contra las mujeres”.
Estadísticas que confirman prejuicios
La investigación resalta que los modelos de lenguaje de código abierto exhiben un sesgo de género significativo, asignando roles más prestigiosos a los varones mientras relegan a las mujeres a ocupaciones tradicionalmente menos valoradas. Además, se encontró que estos modelos generan contenido negativo sobre personas homosexuales y ciertos grupos étnicos.
Audrey Azoulay, directora general de la Unesco, agregó que “cada día son más las personas que utilizan modelos de lenguaje en su trabajo, sus estudios y en casa. Tienen el poder de moldear sutilmente las percepciones de millones de personas. Incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real”.
La Unesco advierte que estos sistemas tienen el potencial de influir sutilmente en las percepciones de millones de personas, por lo que incluso pequeños sesgos pueden amplificar significativamente las desigualdades de género en el mundo real.
Para luchar contra estos prejuicios, se recomienda a las empresas del sector contar con equipos de ingenieros más diversos, sobre todo con más mujeres, ya que en la actualidad trabajan en IA a nivel mundial, solo un 22% de mujeres, según cifras del foro económico mundial.