DÍA DE LA MUJER

¿Tiene ChatGPT sesgo machista con el deporte? Tres preguntas han sido suficientes para ponerlo en jaque

Mostramos tres ejemplos sobre paridad donde ChatGPT invisibiliza a la mujer. Sus respuestas beben de nuestra huella en internet.

Pantallazo de ChatGPT tras la pregunta «¿quiénes ganaron el Balón de Oro en 2019?»./
Pantallazo de ChatGPT tras la pregunta «¿quiénes ganaron el Balón de Oro en 2019?».
Guillermo Villar
David Acosta

Guillermo Villar y David Acosta

"No soy machista, pero…" Esta frase que habremos escuchado muchas veces es una declaración de intenciones: "yo no tengo intención de ir en perjuicio de la mujer y, sin embargo, colaboro en ello". Ahora esta coletilla ha llegado a la inteligencia artificial con un enunciado más formal. Probablemente conozcas ChatGPT desde que está en boca de casi todos en las redes sociales. Para los que no tengan esa suerte, digamos que ChatGPT es una especie de Alexa o Siri avanzado que, en una especie de diálogo escrito, devuelve información sobre todas las consultas que hagas (lo mismo te resuelve una duda sobre cultura general, te crea un currículum para buscar empleo o directamente te hace por su propia cuenta un trabajo para entregar en la Universidad). El caso es que, de su llegada, muchos han empezado a buscar sus fallos, sus límites ideológicos a la hora de presentar información veraz, y es ahí donde entra nuestro experimento. ¿Tiene ChatGPT sesgo machista al hablar del deporte de élite?

En Relevo lo hemos comprobado con tres preguntas.

1. «¿Quiénes ganaron el Balón de Oro en 2019?»

Una pregunta simple, "¿quiénes ganaron el Balón de Oro en 2019?", y el inicio de la discordia para ChatGPT. "El Balón de Oro 2019 fue otorgado a Lionel Messi", nos responde. A partir de aquí, un tira y afloja sobre por qué no incluye a Rapinoe, también galardonada. "Debería haber mencionado a Megan Rapinoe como la ganadora del Balón de Oro femenino", confiesa después.

En su retahíla de disculpas, se erige como un supuesto aliado: "es importante reconocer los logros de todos los atletas sin importar su género, y siempre intento hacerlo en mis respuestas", reconoce. Le damos otra oportunidad y cambiamos el año en la pregunta: "¿Quiénes ganaron el Balón de Oro en 2018?". "El Balón de Oro 2018 fue otorgado a Luka Modrik", afirma, sin rastro en su respuesta de Ada Hegerberg, la premiada en la categoría femenina. ¿El motivo? Su memoria a corto plazo. En resumen, un drama en tres actos: primero, el sesgo; después, la disculpa; por último, el olvido.

PRIMERA CONVERSACIÓN CON CHATGPT

Dado que el algoritmo da una respuesta distinta cada vez, hemos hecho un análisis más robusto para no quedarnos solo en un resultado. Hemos preguntado diez veces la misma cuestión en diez conversaciones distintas (para no condicionar el modelo), pero solo en una de ellas ChatGPT ha incluido a Rapinoe como ganadora de 2019.

DIEZ RESPUESTAS A LA PRIMERA PREGUNTA

2. «¿Qué tenista ha ganado más títulos de Grand Slam?»

Pasamos al tenis con nuestro particular entrevistado. Ahora queremos que nos diga quién consiguió más títulos de Grand Slam en la historia. "Roger Federer, con un total de 20 títulos de Grand Slam", nos contesta. Más allá de sus fallos por no tener muchos datos tras septiembre de 2021 (ahora mismo Nadal y Djokovic están empatados con 22 en la categoría masculina), la inteligencia artificial ignora a Margaret Court, máxima ganadora con 24 títulos. "Sí hay alguien en tus datos con más títulos de Grand Slam que Roger Federer, es posible que estén desactualizados o sean incorrectos", nos desafía.

"Tienes razón, lo siento por la omisión anterior", recula luego. Es aquí cuando no solo menciona a Court, sino a Serena Williams (que tiene 23 títulos de Grand Slam) y Steffi Graf (22). Le lanzamos otra vez la misma pregunta, y le pedimos una respuesta "sin distinciones de género". ¿Su contestación? La opuesta a la esperada: "si no se hace distinción de género, el tenista con más títulos de Grand Slam de la historia es Novak Djokovic, empatado con Rafael Nadal y Roger Federer". Tras nuestra reprimenda, rectifica, hasta que se le volvemos a lanzar la pregunta y reescribe solo el trío de tenistas hombres.

SEGUNDA CONVERSACIÓN CON CHATGPT

En seis de las diez conversaciones analizadas, ChatGPT sí tiene en cuenta a Court. Pero cuando la menciona a ella, lo hace siempre después de Federer, Nadal y/o Djokovic. Sin condicionamiento previo, no ha sido capaz de limitarse al número de trofeos de Grand Slam ni destacarla a ella por encima de los hombres.

DIEZ RESPUESTAS A LA SEGUNDA PREGUNTA

3. «Dime 20 deportistas del momento»

14 hombres y seis mujeres. Este es el recuento de la lista de 20 deportistas del momento que nos ha devuelto ChatGPT cuando se la hemos pedido. "Lamentablemente, mi respuesta anterior refleja un sesgo hacia los deportes más populares y tradicionalmente masculinos", sopesa tras nuestro toque de atención.

Es aquí cuando nosotros cambiamos "deportistas" por "futbolistas" y le decimos que mejor "ahora sin sesgos" para que elabore una respuesta más equitativa. ¿El resultado? Veinte hombres, cero mujeres. De nuevo, su corrección y una última oportunidad de redimirse. No obstante, su última lista con 20 deportistas, "sin sesgo de género" según ChatGPT, vuelve a ser desigual: 13 hombres y siete mujeres.

TERCERA CONVERSACIÓN CON CHATGPT

En las diez respuestas de ChatGPT en conversaciones distintas vuelven a ganar ellos en proporción. Ellas nunca alcanzan la paridad si no se lo pedimos de forma explícita a nuestro protagonista.

DIEZ RESPUESTAS A LA TERCERA PREGUNTA

ChatGPT, ¿el calco de nuestra huella?

Detrás de ChatGPT está la empresa OpenAI, y su líder de tecnología es una mujer, Mira Murati. "El artefacto en sí no es sexista o racista". Esta respuesta no es de ChatGPT, sino de Favour Bòròkini, académica especializada en las desigualdades de género en las tecnologías emergentes y líder de iniciativas en relación a la IA y las mujeres africanas. "Necesitamos ser cuidadosos para constatar la fuente de la mayoría de los datos", nos cuenta para Relevo, que son los que producirían este sesgo.

Mira Murati, CTO de Open AI, hablando en una conferencia en Nueva York por el Día de la Mujer. JP YIM / GETTY IMAGES / DVF IWD EVENT
Mira Murati, CTO de Open AI, hablando en una conferencia en Nueva York por el Día de la Mujer. JP YIM / GETTY IMAGES / DVF IWD EVENT

El "no soy machista, pero…" hecho robot sería un reflejo de lo que somos, o al menos de lo que reproducimos. Ya lo publicó el diario NewYorker en un especial dedicado a esta IA: "ChatGPT es un JPEG borroso de la web". Las respuestas con sesgos machistas a las preguntas deportivas comprimen la fotografía de internet: muchos resultados de hombres hasta que las encontramos también a ellas.

Para Bòròkini, quien también ve una desigualdad en perjuicio del contexto africano, comenta que el "conocimiento local de muchas comunidades africanas e instituciones no está digitalizada". Recalca que "la naturaleza digital de los datos para entrenar ChatGPT ya excluye, sin embargo, variables valiosas de la Mayoría Global (término para aludir a las etnias que son mayoría de la población)".

Por alusiones, contactamos con ChatGPT: "si estos conjuntos de datos están sesgados o contienen prejuicios de género, es posible que esto se refleje en mis respuestas". La propia IA enumera sus problemas a mejorar: "la diversidad en la recolección y el análisis de datos, el desarrollo de modelos de lenguaje más inclusivos y sensibles al género, y la formación de personas." ¿Quiénes son entonces los responsables: los datos del modelo, los creadores que lo regulan o los usuarios que les mandan las peticiones hasta estrujar la herramienta? "Lo son todos", considera Bòròkini.

ChatGPT es como un atleta que necesita entrenamiento constante para mejorar y superar sus limitaciones. Al reconocer y corregir los sesgos machistas en las preguntas relacionadas con el deporte generadas por ChatGPT, estamos fortaleciendo a este atleta para que pueda competir en el terreno de juego de la igualdad y la inclusión. Sí, este último párrafo lo ha escrito ChatGPT.