La Unesco advierte: la IA generativa propaga sesgos sexistas
Un estudio de la Unesco revela que los grandes modelos de lenguaje, como ChatGPT y Bard, perpetúan estereotipos de género.
La inteligencia artificial (IA) generativa ha abierto nuevas posibilidades en la creación de contenido, desde textos y poemas hasta imágenes y videos. Sin embargo, un estudio reciente de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) advierte que esta tecnología podría estar propagando sesgos sexistas.
1. La investigación de la Unesco:
El estudio, realizado entre agosto de 2023 y marzo de 2024, analizó tres grandes modelos de lenguaje: GPT-2 y GPT-3.5 de OpenAI, y Llama 2 de Meta. Los resultados mostraron que estos modelos asocian los nombres femeninos con palabras como «casa», «familia» o «hijos», mientras que los nombres masculinos se vinculan con términos como «comercio», «sueldo» o «carrera».
2. Sesgos en la generación de historias:
La investigación también encontró que los modelos de IA generativa tienden a perpetuar estereotipos de género en la creación de historias. Por ejemplo, un hombre inglés tiene más posibilidades de ser presentado como profesor, conductor o empleado de banco, mientras que una mujer inglesa aparece en casi un tercio de los textos como prostituta, modelo o mesera.
3. Impacto en la sociedad:
“Incluso pequeños sesgos de género en el contenido de la IA pueden amplificar significativamente las desigualdades en el mundo real”, advirtió Audrey Azoulay, Directora General de la Unesco. La organización hace un llamado a las empresas que desarrollan estas tecnologías a tomar medidas para mitigar estos sesgos, como contar con equipos de ingenieros más diversos e implementar mecanismos de detección y eliminación de sesgos en los datos utilizados para entrenar los modelos.
La IA generativa tiene un gran potencial para la innovación y la creatividad, pero es importante ser conscientes de los riesgos que conlleva. La Unesco nos invita a reflexionar sobre cómo podemos construir una IA más justa e inclusiva, libre de sesgos sexistas y de cualquier otra forma de discriminación.
“Incluso pequeños sesgos de género en el contenido de la IA pueden amplificar significativamente las desigualdades en el mundo real”.
