El servicio de inteligencia artificial Gemini de Google acusado de prejuicios raciales e imágenes históricamente inexactas

Según Brendan Carr, comisionado republicano y de la Comisión Federal de Comunicaciones (FCC), esto es "profundamente preocupante".

"Lo que esto está haciendo es dejar al descubierto que el pueblo estadounidense vea que la ideología política que impregna Silicon Valley está encontrando su camino hacia los algoritmos", dijo Carr en "The Bottom Line" el lunes.

"Y durante años nos dijeron que no hay sesgo conservador, que no hay ideología política, que son sólo algoritmos neutrales", continuó. "Y creo que la gente está comprobando por sí misma que eso está muy lejos de ser así".

La semana pasada, el director senior de gestión de productos de Google Gemini le dijo que está trabajando para mejorar la herramienta de inteligencia artificial (IA) "inmediatamente", después de que produjo imágenes históricamente inexactas y se negó a mostrar fotografías de personas blancas.

"Estamos trabajando para mejorar este tipo de representaciones de inmediato", dijo Jack Krawczyk, director senior de gestión de productos de Gemini Experiences. "La generación de imágenes de IA de Gemini genera una amplia gama de personas. Y eso en general es algo bueno porque la gente de todo el mundo la usa. Pero aquí no da en el blanco".

"Es por eso que necesitamos poner algún tipo de barrera que promueva el discurso, no la censura", reaccionó Carr, "pero también asegurarnos de que tengamos una diversidad de puntos de vista que estén floreciendo, y que la gente no tenga una opinión sesgada, historia o eventos actuales desde un solo lado de vista".

Los ingenieros humanos entrenan e ingresan datos e información en A.I. Los códigos "han imaginado la perspectiva y el sesgo que querían", argumentó Carr, y lo han ejecutado dentro del código.

"Cada vez que haces preguntas diferentes, estás generando exactamente el mismo tipo de cambios de sesgo. Y es por eso que creo que tenemos que intervenir a nivel de gobierno federal o estatal y establecer algunas barreras para promover esto. diversidad de puntos de vista", afirmó el comisionado de la FCC.

Más recientemente, se probó A.I. chatbots Gemini, ChatGPT de OpenAI, Copilot de Microsoft y Meta AI para determinar posibles deficiencias en su capacidad para generar imágenes y respuestas escritas.

Meta no produjo imágenes de personas blancas, mientras que ChatGPT y Copilot sí lo hicieron. En particular, Gemini y Meta no discutirían los logros de ninguna raza, mientras que ChatGPT y Copilot sí lo harían.

La tendencia de que ChatGPT y Copilot no tuvieran problemas para producir respuestas sensatas continuó a través de múltiples preguntas de prueba. Si bien Google ha pausado su elemento de generación de imágenes, Meta, Microsoft y OpenAI supuestamente no han respondido a la solicitud de de varios medios para comentar sobre los resultados.