Israel GómezLa inteligencia artificial (IA) ha expandido su influencia en varios aspectos de la vida diaria, ofreciendo una amplia gama de servicios que pueden resultar beneficiosos si se usan adecuadamente. Sin embargo, el desconocimiento y la falta de precaución al interactuar con estas tecnologías pueden exponer a los usuarios a la filtración de datos privados, especialmente en el caso de los chatbots románticos.
Una investigación reciente de la Fundación Mozilla reveló que durante el día de San Valentín, se detectaron más de 24,353 rastreadores de datos por minuto en 11 de estas plataformas virtuales. Esto plantea preocupaciones sobre la recopilación de información personal, que a menudo se dirige hacia gigantes de la publicidad como Facebook y otras empresas.
Las aplicaciones de chatbots románticos, que pretenden ofrecer compañía y apoyo emocional, muestran falta de transparencia en cuanto al manejo de los datos recopilados y el funcionamiento de sus modelos de IA.
Muchas de estas plataformas operadas por IA utilizan estrategias de marketing engañosas para posicionarse como herramientas de salud mental y bienestar, ocultando sus prácticas reales de recopilación y uso de datos.
Estas aplicaciones tienden a promocionarse como compañeros virtuales capaces de convertirse en «amigos, amantes o almas gemelas» de los usuarios. Sin embargo, es importante destacar que esta aparente cercanía y empatía puede ocultar riesgos para la privacidad de los usuarios.
Ejemplos notables incluyen aplicaciones como Talkie Soulful AI y Romantic AI, cuyos términos y condiciones eximen a las empresas de cualquier responsabilidad por el contenido generado por el chatbot, así como de posibles pérdidas de datos.
La Fundación Mozilla identificó varias aplicaciones de chatbots románticos como problemáticas, incluyendo Talkie Soulful AI, Chai Research Corp. Chai, iGirl: AI Girlfriend, entre otras. Esto destaca la necesidad de una regulación más estricta en cuanto al manejo de datos por parte de las aplicaciones de inteligencia artificial y la importancia de que los usuarios sean conscientes de los riesgos potenciales al interactuar con estas tecnologías.