Google detiene la creación de imágenes en su IA Gemini tras varios errores

En los últimos días, la comunidad de IA se ha alborotado con la difusión de imágenes generadas por Gemini, el último modelo de inteligencia artificial de Google. Sin embargo, en lugar de recibir elogios, Gemini ha enfrentado una oleada de críticas debido a la naturaleza problemática de las imágenes que ha generado.

Usuarios de diversas plataformas han señalado que Gemini parece haber errado de manera significativa en la representación de ciertos temas históricos, mostrando una clara falta de precisión y sensibilidad en sus resultados. Estas imágenes han alimentado la teoría de que el modelo puede estar mostrando cierta discriminación racial y una interpretación excesivamente inclusiva, incluso en contextos donde carece de pertinencia.

Por ejemplo, en respuesta a solicitudes como «vikingos» o «soldado alemán de 1943», Gemini ha producido imágenes que muestran una representación desequilibrada en términos de etnia y género, lo que ha generado desconcierto y críticas por parte de los usuarios.

Este revuelo recuerda a episodios pasados, como el lanzamiento problemático del modelo Bard, que también enfrentó dificultades iniciales debido a errores significativos. En un mundo cada vez más atento a la diversidad y la inclusión, las empresas tecnológicas no pueden permitirse errores tan evidentes, especialmente cuando se trata de representaciones históricas sensibles.

Google, en respuesta a la controversia, emitió un comunicado disculpándose por los problemas con la función de generación de imágenes de Gemini. La empresa anunció que pausarian temporalmente la generación de imágenes de personas mientras trabaja en una versión mejorada de la función.

Esta situación destaca los desafíos que enfrentan las empresas de tecnología al implementar modelos de inteligencia artificial en entornos sensibles y culturalmente diversos. Si bien la IA generativa ofrece oportunidades emocionantes, también plantea importantes preguntas éticas y sociales que deben abordarse con cuidado y responsabilidad.

Sigue nuestro trabajo en:

Comparte en: