NotiPress.- En un giro reciente y en pleno escrutinio sobre desafíos éticos y técnicos de la inteligencia artificial, Google decidió pausar la capacidad de su herramienta Gemini para generar imágenes de personas. Esta decisión sigue a la detección de errores en la recreación de figuras históricas, lo que generó un amplio debate público. Específicamente, Gemini había estado produciendo representaciones diversas de los padres fundadores de Estados Unidos y soldados alemanes de la era nazi, desencadenando acusaciones de subvertir estereotipos de género y raza inherentes a la IA generativa.
La compañía tecnológica se disculpó por las inexactitudes en algunas imágenes históricas generadas por su modelo de IA, afirmó estar trabajando en mejoras. “Estamos abordando los problemas recientes con la función de generación de imágenes de Gemini”, anunció Google en un escueto comunicado de X (antes Twitter). La pausa en la generación de imágenes de personas pretende ser temporal, con Google prometiendo lanzar una versión mejorada próximamente.
Esta controversia surgió menos de 24 horas después de que Google se disculpara por errores específicos en la representación de figuras históricas, donde usuarios de Gemini encontraron personas de distintas razas en resultados esperados para ser predominantemente blancos. Esto alimentó teorías conspirativas online sobre una supuesta evasión intencional de Google al representar personas blancas.
Pruebas realizadas por el medio estadounidense The Verge revelaron que solicitudes a Gemini para “un senador de EE.UU. de los 1800” devolvieron imágenes de mujeres negras y nativas americanas, pese de que la primera senadora fue una mujer blanca en 1922, lo que implica una tergiversación de la discriminación histórica de raza y género.
Con la deshabilitación de la capacidad de Gemini para generar imágenes de personas, Google reiteró su compromiso de mejorar esta funcionalidad. La compañía, que lanzó la generación de imágenes a través de Gemini en un esfuerzo por competir con OpenAI y el Copilot de Microsoft, espera que esta característica regrese pronto y promete notificar a los usuarios en actualizaciones futuras. La situación pone en relieve la importancia de la precisión y la ética en la generación de contenido AI, mientras Google navega por las complejidades de desarrollar tecnologías ¿responsables y precisas?
