Google CEO menciona que los errores de diversidad de Gemini son inaceptables

Recientemente, la inteligencia artificial de Google, Gemini mostró ciertos errores que no pasaron por alto los usuarios. Y es que con el fin de que la IA no genere imágenes estereotipadas y tenga cierta diversidad, comenzó a crear imágenes con errores históricos. En este sentido, creaba soldados nazis asiáticos y africanos. Esto ha llevado que el CEO de la compañía se pronuncie.

Memorando de Google

Sundar Pichai, director ejecutivo de Google, ha lanzado un memorando interno a los empleados. Dicho documento lo obtuvo el medio The Verge y se puede leer lo siguiente:

«Hola a todos

Quiero abordar los problemas recientes de respuestas problemáticas de texto e imágenes en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos.

Nuestros equipos han estado trabajando las 24 horas del día para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos así durante el tiempo que sea necesario. Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala.

Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de Al.

Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y equipos rojos, y recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.

Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios técnicos y de productos que hemos hecho en IA durante las últimas semanas. Esto incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de ventana de contexto largo de 1 millón y nuestros modelos abiertos, los cuales han sido bien recibidos.

Sabemos lo que se necesita para crear excelentes productos que sean utilizados y amados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola Al. Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios».

Errores que también tuvo Bard

Como se sabe, la inteligencia artificial de Google llamada Bard, cambio de nombre a Gemini tras casi un año. Esto se debe a que en su momento Bard, también tuvo errores de información. Es así, cómo en su presentación de producto bastó que se haya equivocado en un dato para que los usuarios no creyeran en la información que brindaba Bard. Esto llevó a que los inversionistas no confíen en el producto. Ahora, Gemini podría estar pasando por lo mismo al crear imágenes con errores históricos.