Israel GómezVarios investigadores de OpenAI han comunicado a la junta directiva un hallazgo relevante en el campo de la Inteligencia Artificial (IA), planteando preocupaciones sobre su posible amenaza para la humanidad, según un informe reciente.
El algoritmo de IA, que representaba un avance significativo en la startup, fue el punto central antes de que Sam Altman fuera expulsado por la junta, informó Reuters citando a fuentes familiarizadas con el tema.
Sam Altman ha sido reinstalado como Director Ejecutivo de OpenAI después de la presión ejercida por el principal patrocinador financiero, Microsoft, y su CEO, Satya Nadella. Además, más de 700 empleados amenazaron con renunciar en apoyo al despedido líder.
Se reveló que una carta, que desempeñó un papel crucial en la decisión de la junta directiva de destituir a Altman, expresaba inquietudes sobre la comercialización del descubrimiento de IA sin una evaluación adecuada de sus consecuencias.
OpenAI internamente reconoció un proyecto llamado Q* (pronunciado Q-Star) en un mensaje a su personal. Un portavoz de la compañía indicó que la carta interna alertaba al personal sobre ciertas noticias sin comentar sobre su veracidad.
El Proyecto Q* ha generado expectativas dentro de OpenAI como un posible avance significativo en la búsqueda de la inteligencia artificial general (AGI). Los AGI son definidos por la empresa como «sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas».
Aunque la IA generativa ha demostrado ser competente en áreas como escritura y traducción de idiomas, la capacidad de resolver problemas matemáticos con una única respuesta correcta sugiere un nivel de funcionamiento cercano a la inteligencia humana, según indicó la agencia Reuters.
En la carta enviada a la junta directiva, los investigadores de OpenAI advirtieron sobre el potencial peligro que este poderoso algoritmo podría representar para la humanidad. Sin embargo, las preocupaciones específicas de seguridad detalladas en la carta no han sido reveladas.