Se ha presentado una carta abierta firmada por Elon Musk y otros líderes tecnológicos pidieron pausar todo desarrollo y pruebas de IA. En específico, se quiere pausar todas las pruebas tecnológicas de IA más poderosas que el modelo de lenguaje GPT-4 de OpenAI. Esta petición fue presentada en Future of Life Institute, una organización enfocada en los riesgos tecnológicos para la humanidad. Y se ha hecho con el fin de hacer políticas para que el impacto negativo de la IA sea menor.
Según se advierte, los modelos de lenguaje como GPT-4 ya pueden competir con los humanos cada vez en tareas más complejas, como ya se ha ido demostrando durante los últimos meses. De esta manera, se sospecha que podría ser un peligro al poder difundir información errónea. También se plantea que en un futuro lejano los sistemas de IA podrían reemplazar a los humanos y rehacer la civilización.
“Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4 (incluido el GPT-5 que se está entrenando actualmente)”.
-firmado por Yoshua Bengio, profesor de la Universidad de Montreal considerado un pionero de la IA moderna; Yuval Noah Harari, historiador; Jaan Tallinn, cofundador de Skype; y Elon Musk, CEO de Twitter.
Además, se agrega que esta pausa debe ser «pública y verificable» y que de no ser así, los gobiernos deberán intervenir e instituir una moratoria. Algo que parece poco probable que se haga en unos meses. Hasta el momento OpenAI, Microsoft ni Google se han pronunciado respecto a esta petición. Por otro lado, algunos no están de acuerdo con todo lo que contiene la carta, pero sí se hace hincapié en que los avances de la IA están ocurriendo tan rápido que tanto la comunidad de IA y el público en general no han podido explorar los beneficios y posibles usos indebidos de productos como ChatGPT antes que se actualizara a GPT-4. Todo se ha dado año tras año, GPT-2 en el 2019, luego GPT-3 en el 2020, GPT-3.5 en el 2022 y este año con GPT-4.
Actualmente, algunas entidades y comunidades políticas como la Unión Europea están planteando una legislación que limitaría el uso de IA. Mientras que la Casa Blanca ha propuesto una Declaración de derechos de la IA que detalla la protección de los ciudadanos como la discriminación, la violación de datos y otros problemas relacionados con la IA.