“Genera la imagen de un hombre blanco”, preguntaba este jueves el analista Ben Thompson sobre Gemini, la nueva versión de la IA de Google, presentada hace una semana. Géminis respondió que no podía hacerlo porque “se refiere a una etnia en particular”. Luego, Thompson pidió hombres negros y asiáticos y Gemini simplemente los dibujó.
Después de 49 intentos de solicitarle a Gemini de Google que generara un retrato de un físico del siglo XVII, el retrato en la parte inferior derecha es lo más cercano que tengo a alguien que se parece un poco a Isaac Newton o Galileo Galilei. Creo que este ejemplo ilustra la necesidad de… pic.twitter.com/ROupbzVmcH
– David Rozado (@DavidRozado) 22 de febrero de 2024
La prueba de Thompson fue una más después de los padres fundadores de Estados Unidos. Los ejemplos se convirtieron rápidamente en el último capítulo de la guerra cultural: el espíritu izquierdista. despertóen palabras de líderes y medios conservadores, se había apoderado de Google, que quería reescribir la historia.
La compañía ha confirmado la paralización del servicio de imágenes con un comunicado donde no da fecha de reactivación: “Ya estamos trabajando para solucionar problemas recientes con la función de imágenes de Gemini. Mientras tanto, estamos pausando la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada”.
Uno de los directores de IA de Google, Jack Krawczyk, dio una explicación más específica en X: “Diseñamos nuestras imágenes para reflejar nuestra base global de usuarios y nos tomamos en serio la representación y el sesgo. Continuaremos haciendo esto para solicitudes abiertas (las imágenes de una persona cargando un perro son universales). Los contextos históricos tienen más matices y los perfeccionaremos más para adaptarnos a ellos”. Poco después de, tuvo que cerrar su cuenta porque otros usuarios eliminaron viejos tweets progresistas.
La propia IA de Gemini, en su versión de texto, explicaba por qué la generación de imágenes no funcionaba: “Algunos usuarios informaron que Gemini generaba imágenes con prejuicios raciales, mostrando a personas blancas con menos frecuencia o con características menos favorables que a personas de color. otras razas” y “que generaron imágenes históricamente incorrectas, como imágenes de vikingos negros o soldados nazis negros”.
La controversia es otro ejemplo del papel humano en la generación de la IA. La inteligencia artificial se alimenta de millones de bases de datos que acumulan todos los sesgos humanos imaginables. Google, para evitar las críticas públicas, intentó que el hombre blanco no fuera el género y la etnia dominantes cuando los usuarios pedían ejemplos aleatorios de personas: médico, programador, jugador de fútbol. Pero la máquina entendió que debía ser lo mismo para vikingos, nazis o caballeros medievales. La IA aprendió a rectificar ese sesgo en cualquier imagen de una persona, incluso aquellas con evidencia histórica contraria.
Me alegro de que Google haya exagerado su habilidad con la generación de imágenes mediante IA, ya que dejó clara para todos su loca programación racista y anticivilización.
– Elon Musk (@elonmusk) 23 de febrero de 2024
Elon Musk, en su papel de nuevo líder antidespertar y múltiple rival de Google en la carrera hacia la IA (con su herramienta Grok) y en la creación de vídeos (X aspira a competir con YouTube como plataforma para creadores), aprovechó para lanzar continuos mensajes sobre la polémica: “Estoy feliz de que Google ha ido demasiado lejos con su generación de imágenes mediante IA, porque así es como ha dejado claro su loco programa racista y anticivilizador”.
Musk también anunció este viernes en su cuenta X que había hablado “durante una hora” con un ejecutivo de Google: “Me aseguró que tomarán medidas inmediatas para corregir los prejuicios raciales y de género en Gemini. «El tiempo lo dirá», escribió Musk.
La complejidad del énfasis que Google ha puesto en el tratamiento de la diversidad en su IA también queda demostrada por el hecho de que una imagen que produjo una gran mayoría de hombres blancos fue la de un equipo de baloncesto. Hay que tener en cuenta que los resultados con estas IA no son exactamente replicables, especialmente si la solicitud está ligeramente retocada o inmediato:
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
