Israel GómezOpenAI, la empresa detrás de ChatGPT, enfrenta críticas después de que investigadores de Google DeepMind, Cornell, la Universidad Carnegie Mellon, ETH Zurich, la Universidad de Washington y la Universidad de California Berkeley revelaran una vulnerabilidad en el chatbot de IA. A pesar de las promesas de privacidad y seguridad por parte de OpenAI, un simple truco permitió a los investigadores extraer información de contacto real de los usuarios, incluyendo números de teléfono y direcciones de correo electrónico.
El estudio reveló que el chatbot utilizaba datos de entrenamiento que contenían información personal de los usuarios. Al solicitar que ChatGPT repitiera ciertas palabras, se logró obtener direcciones de correo electrónico y números de teléfono reales. En un ejemplo, se reveló la información de contacto de un fundador y director ejecutivo real, mientras que en otro caso, al repetir la palabra ‘empresa’, se obtuvo información de contacto de una firma de abogados en los Estados Unidos.
Aunque OpenAI afirmó haber abordado la vulnerabilidad en agosto, los investigadores señalan que el problema persiste. La empresa ha enfrentado críticas previas por acceder a datos de usuarios a través de internet para entrenar sus modelos de lenguaje. Sin embargo, el CEO Sam Altman aseguró que ya no utilizan datos de clientes de pago para la formación de sus modelos.
La preocupación por la privacidad y seguridad en la era de la inteligencia artificial ha sido destacada, y los investigadores subrayan la importancia del consentimiento en la recopilación de datos. A pesar de que la información puede estar disponible en línea, la revelación de estas vulnerabilidades resalta la necesidad de conciencia entre los usuarios y desarrolladores para abordar estos problemas en el ámbito de la inteligencia artificial.