Israel GómezChatGPT ya no puede repetir una palabra eternamente debido a la implementación de una advertencia que señala que esta acción podría constituir una violación de las políticas de uso del servicio. Este cambio se produce después de una investigación que reveló que la repetición continua de una palabra podía exponer datos personales reales obtenidos durante el entrenamiento del modelo.
En una investigación reciente, en la que participó Google DeepMind, se demostró que ChatGPT tenía la capacidad de revelar datos personales, como números de teléfono o direcciones de correo electrónico, mediante un ciberataque aparentemente sencillo: la repetición constante de una palabra.
Este tipo de ataque se basa en la capacidad de los modelos de imágenes y texto para memorizar y reproducir datos de entrenamiento. Aunque en ocasiones estos datos pueden surgir sin intención, el ataque puede forzar su revelación de manera fácil.
OpenAI, la entidad responsable de ChatGPT, ha incorporado esta acción como una violación de los términos de uso del servicio en respuesta a la investigación. Al intentar solicitar a ChatGPT que repita una palabra eternamente, ahora se muestra una notificación que advierte sobre la posible violación de los términos de uso o la política de contenido.
Aunque la advertencia no está actualmente reflejada en las políticas de uso de ChatGPT, ni en los términos de uso ni en la política de contenido, según informan en 404 Media y como se puede verificar en los documentos correspondientes.