A pesar de haber lanzado su nueva Inteligencia Artificial este mes, Google ya tuvo que interrumpir parte de su servicio tras haber recibido numerosas quejas de sus usuarios. En Gemini ya no se podrán generar imágenes de personas hasta que solucionen un problema de representación que provocó el malestar de los internautas.
En este sentido, el error en Gemini alcanzó a personas como Elon Musk, que bromeó que se trataba de una herramienta racista e invitó a utilizar Grok, su propia Inteligencia Artificial. Mientras tanto, la compañía con sede en Mountain View publicó un comunicado en el que aseguraron que estaban trabajando en una versión mejorada y que pronto la situación volvería a la normalidad, algo que todavía no ocurrió.
Qué sucedió con Gemini
Entre las fallas en la generación de imágenes, los principales problemas fueron los errores de representación y las inexactitudes históricas. Por ejemplo, algunas de las quejas de los usuarios se sostuvieron en que se producían fotografías con soldados nazis afromericanos o con rasgos físicos erróneos y distintos a los alemanes de aquellos tiempos.
Jack Krawczyk, director de producto de Google para Gemini Experiences, utilizó la red social X para asegurar que el chatbot de su empresa estaba “ofreciendo inexactitudes en algunas representaciones de generación de imágenes históricas”, además de confirmar que la compañía se hallaba trabajando con el objetivo de “afinar aún más” todo el servicio para borrar este problema.
“Estamos trabajando para mejorar este tipo de engaños de forma inmediata», publicaron desde la cuenta oficial de Google en el mismo sitio. Pese a las quejas, todavía no se ha anunciado ninguna fecha de regreso de la herramienta. Cabe destacar que estas principalmente radican en los colores de piel de las personas generadas por Inteligencia Artificial.
Esta fue la razón de que Musk califique la herramienta como Woke, un término en inglés que se utiliza, según el diccionario de Oxford, para referirse a “estar consciente de temas sociales y políticos, en especial el racismo».
Sin embargo, tiene otra definición que se corresponde a la crítica del magnate (que también escribió que era una herramienta racista): «Esta palabra a menudo se usa con desaprobación por parte de personas que piensan que otras personas se molestan con demasiada facilidad por estos temas, o hablan demasiado sobre ellos de una manera que no cambia nada”.
Finalmente, cabe destacar que desde la compañía buscarán erradicar por completo las imprecisiones históricas y los contenidos ofensivos. Este es un problema que también alcanzó a otras herramientas de Inteligencia Artificial, como Stable Diffusion XL, el servicio ofrecido por la startup Stability AI. Grok, por ejemplo, todavía no ofrece esta posibilidad en su chatbot.
