Israel GómezLa rápida evolución de la inteligencia artificial (IA) ha generado preocupaciones entre expertos, especialmente los empleados de OpenAI, quienes han manifestado su inquietud a través de una carta abierta. En esta misiva, expresan su preocupación por el rápido desarrollo de la industria de la IA y la falta de protecciones legales para los denunciantes. Según ellos, las empresas de IA tienen fuertes incentivos financieros para evitar una supervisión efectiva, lo que plantea serios riesgos para la seguridad y la ética en este campo.
Un tema crucial abordado en la carta es la posibilidad de que la IA avanzada cause daño catastrófico a la humanidad. Según algunos expertos, como Daniel Kokotajlo, antiguo investigador de OpenAI, la IA general (IAG) podría llegar mucho antes de lo previsto, aumentando así el riesgo de potenciales consecuencias negativas. Además, los empleados señalan que las empresas de IA a menudo no comparten información crítica con la sociedad civil, lo que dificulta la evaluación de los riesgos asociados con estas tecnologías.
La carta destaca la necesidad de leyes que protejan a los denunciantes y promuevan la transparencia en la industria de la IA. Aunque OpenAI ha respondido asegurando su compromiso con la seguridad y el enfoque científico, los empleados insisten en la importancia de establecer una cultura que fomente la expresión de preocupaciones específicas sobre el desarrollo y uso de la IA.