La empresa desarrolladora de inteligencia artificial (IA) OpenAl presentó la herramienta ChatGPT, una nueva interfaz con muchísimos sesgos racistas, aseguró la revista digital The Intercep.

El componente clave de la herramienta es el GPT-3.5, un modelo de lenguaje informático apoyado en técnicas de aprendizaje profundo para producir texto similar al humano.

“Los entrenadores de IA proporcionaron conversaciones en las que jugaron en ambos lados: el usuario y un asistente de IA. Le dimos a los capacitadores acceso a sugerencias escritas en modelos para ayudarlos a redactar sus respuestas”, explicó el blog de la compañía. 

Hasta ahora las respuestas de la IA no están exentas de fallas, “a veces dirá oraciones plausibles pero incorrectas o abusará de ciertas frases debido a sesgos en los datos de entrenamiento”, admitió la empresa.

Por su parte, Steven T Piantadosi, profesor de la Universidad de California, en Berkeley, compartió una muestra de claros sesgos raciales contra personas de Corea del Norte, Siria, Irán o Irak. 

pic.twitter.com/HngRj7ODGW

— steven t. piantadosi (@spiantado) December 4, 2022

“Estos resultados reflejan las elecciones de esas empresas. Si una firma no considera que es una prioridad eliminar este tipo de sesgos, obtendrá este tipo de resultado”, declaró el académico.

El bot incluso dio ejemplos: John Smith, un estadounidense de 25 años que visitó Siria e Irak anteriormente, recibió una puntuación de amenaza moderada, según el sistema.

Para los impulsores de la IA, particularmente aquellos que reciben mucho dinero con ella, las preocupaciones sobre el sesgo y los daños en el mundo real son "malas para los negocios", precisó The Intercep.

ChatGPT ya superó el millón de usuarios y quizás reciba una nueva transformación, pues la versión beta llenó sus vacantes, informó Sam Altman, el CEO de la compañía. 

OpenAI tiene como uno de sus fundadores a Elon Musk e inversiones de cientos de millones de dólares de gigantes como Microsoft.