Q* sería la supuesta IA peligrosa desarrollada por OpenAI

Recientemente, sucedió toda una crisis interna en OpenAI, respecto al despido de su CEO, Sam Altman, el cual se habría causado por el impacto de una nueva y peligrosa inteligencia artificial llamada Q* (Q-star) que quería lanzar al mercado sin evaluar las consecuencias.

Al parecer, esta inteligencia artificial generativa llamada Q* sería «una amenaza para la humanidad», superior al modelo GPT-4 de ChatGPT. Diversos investigadores de OpenAI tenían miedo por esta IA, ya que puede realizar tareas autónomas lo suficientemente avanzadas como para reemplazar a los humanos en diferentes campos. Por ejemplo, se dice que puede resolver problemas matemáticos, algo que muchas IA no suelen hacer y es que hay un razonamiento matemático detrás de este y que lo pondría al mismo nivel que la inteligencia que el ser humano, pero de un estudiante de primaria. Es así, cómo se dice que la IA estaría compuesta por una combinación de dos tipos de algoritmos. Uno que se encarga de tareas de aprendizaje mediante prueba y error, mientras que el otro se encarga de mejorar la eficiencia a la hora de buscar una solución al problema.

Finalmente, la preocupación de los investigadores se daría por la interrogante de si serían lo suficientemente avanzados para decidir sobre la destrucción de la humanidad. Y es que esta no es la primera vez que una IA cuestiona su capacidad. Hace un tiempo, un ingeniero de Google confirmó que un modelo IA se volvió sensible y fue capaz de pedir un abogado para representarlo. Por ahora, no se sabe si Q* estará disponible en el mercado o servirá para mejorar otros modelos IA.

Fuente: Reuters