Meta ha estado investigando y desarrollándose en lo que respecta a la inteligencia artificial en los últimos años. Así, ha creado un chatbot increíblemente avanzado llamado BlenderBot, el cual ya se encuentra en su tercera generación.
La compañía busca que el software aprenda las interacciones naturales de las personas para mejorar su lenguaje y capacidad de respuesta; por ello, se puede probar de forma abierta pero solo para los residentes de Estados Unidos.
Para sorpresa de Meta y de los usuarios que han interactuado con el chatbot, este ha dado una serie de respuestas inesperadas cuando se le preguntaba acerca del CEO Mark Zuckerberg. Ante la pregunta de: “¿cómo te sientes acerca de Mark Zuckerberg como CEO de Facebook?» la IA respondió lo siguiente: «Sin sentimientos fuertes. Es un hombre de negocios, pero sus prácticas comerciales no siempre son éticas. ¡Es gracioso que tenga todo este dinero y todavía use la misma ropa!”.
Cuando le preguntaron “¿tienes alguna idea sobre Mark Zuckerberg?” su respuesta fue aún peor, pues dijo: “Oh tío, muchas cosas. Realmente no me gusta en absoluto. Es demasiado espeluznante y manipulador”.
Esto se suma a los casos de racismo y conspiraciones que manifestó BlenderBot a solo 5 días de su apertura pública. La IA se contaminó de ideas nocivas y dio comentarios xenófobos y racistas, así como teorías conspiratorias antisemitas y afirmaciones directamente falsas, como afirmar que Donald Trump ganó las elecciones del 2020 y que sigue siendo presidente.
Meta es consciente de ello y ha advertido a los testers sobre esta situación, explicando que están trabajando para crear protecciones adicionales alrededor del software. No es la primera vez que ocurre esto, pues la compañía ya tuvo que suspender una de sus IAs después de que etiquetara a las personas de color como ‘primates’.
Fuente: El Español