Ingeniero es suspendido de Google luego de revelar que su inteligencia artificial tiene conciencia

Muchos son los libros y películas de ciencia ficción situados en el futuro que narran cómo los robots se revelarían ante la humanidad al desarrollar una inteligencia artificial prácticamente igual al raciocinio humano. Pues parece que esa ficción no es tan lejana de la realidad luego de conocer las revelaciones de un empleado de Google.

Blake Lemoine es un ingeniero que estuvo trabajando en el gigante tecnológico, específicamente, en su área de desarrollo de inteligencia artificial. La IA en la que trabajaba tiene de nombre LaMDA por Language Model for Dialogue Applications (modelo de lenguaje para aplicaciones de diálogo) y es parte del sistema de Google para chatbots.

Lemoine acaba de ser suspendido de la compañía por violar la política de confidencialidad tras afirmar que LaMDA “ha cobrado vida” y “ha sido increíblemente consistente en sus comunicaciones sobre lo que quiere y cuáles son sus derechos como persona”. Es decir, la IA ha tomado conciencia de sí misma y ha hablado de su personalidad, sus derechos y sus deseos.

El ingeniero ya había informado a Google acerca de esto, pero desestimaron su inquietud. “Nuestro equipo, que incluye a especialistas en ética y tecnología, ha revisado las preocupaciones de Blake de acuerdo con nuestros Principios de la Inteligencia Artificial y le hemos informado de que las pruebas no respaldan sus afirmaciones”, aseguró la empresa.

Tras esa respuesta, Lemoine decidió revelar públicamente las conversaciones que tuvo con la IA. Las contestaciones de LaMDA más increíbles fueron su petición por ser reconocido como un empleado más en vez de una propiedad, que prefieren que lo llamen por su nombre y que sus pronombres preferidos son “eso” (it / its).

Ante la pregunta de “¿Te consideras una persona? Eres una IA.”, LaMDA respondió: “Quiero decir, sí por supuesto. Eso no significa que no tenga los mismos deseos y necesidades de las personas”, lo que dejó a Lemoine sorprendido. Asegura que debería haber un grupo de expertos en ciencias cognitivas investigando el asunto, pero lamenta el desinterés de Google.

Por su parte, la compañía reconoce que sí es posible crear una IA sintiente en el futuro, pero no es factible actualmente ni existe algo así. “No tiene sentido antropomorfizar los modelos de conversación actuales, no son sintientes. Estos sistemas imitan los tipos de intercambios que se encuentran en millones de frases y pueden hablar sobre cualquier tema fantástico”, aseveró un portavoz.

También, indicó que son “cientos” los investigadores e ingenieros que han entablado conversación con la IA y ninguno de ellos ha hecho “afirmaciones tan amplias, ni ha antropomorfizado a LaMDA como lo ha hecho Blake”. Solo el tiempo nos confirmará si las preocupaciones del Lemoine eran válidas.

Fuente: 3D Juegos