Israel GómezOpenAI y Anthropic, empresas de inteligencia artificial, firmaron acuerdos con el gobierno de Estados Unidos para investigar y evaluar sus modelos de IA. El Instituto de Seguridad de la IA de EU anunció que estos acuerdos permitirán probar rigurosamente los modelos antes y después de su lanzamiento público. Las empresas buscan asegurar el uso seguro y ético de sus tecnologías en medio del creciente escrutinio regulatorio.
Jack Clark, cofundador de Anthropic, resaltó la importancia de una IA segura y confiable, afirmando que esta colaboración aprovecha la experiencia del Instituto de Seguridad de la IA para garantizar la seguridad en la implementación de sus modelos. Jason Kwon, director de estrategia de OpenAI, señaló que estos acuerdos marcan un hito en la gestión responsable del futuro de la IA, estableciendo un marco para el desarrollo global.
El Instituto de Seguridad de la IA tendrá acceso a los modelos principales de ambas empresas y contribuirá en la evaluación de sus capacidades y riesgos asociados. Este instituto, parte del Instituto Nacional de Normas y Tecnología del Departamento de Comercio de EU, también colaborará con el Instituto de Seguridad de la IA del Reino Unido, ofreciendo recomendaciones de seguridad a las empresas.
Estos acuerdos llegan en un momento crucial, cuando los legisladores de California están por votar sobre un proyecto de ley para regular la IA. La directora del Instituto de Seguridad de la IA, Elizabeth Kelly, subrayó que estos convenios son un primer paso significativo hacia la gestión responsable de las tecnologías de inteligencia artificial.