Cuando la IA aprende a fabricar la realidad

La inteligencia artificial no es mala. Tampoco es buena. Es una herramienta. Y como ocurre con casi cualquier herramienta poderosa, su impacto depende de las manos que la utilizan y de los objetivos que persiguen.

El problema comienza cuando esa capacidad deja de utilizarse para crear, facilitar o resolver problemas y empieza a emplearse para distorsionar aquello que entendemos como realidad.
Eso es precisamente lo que obliga a mirar con atención el caso de la página de Facebook identificada como @TeamCritico, conocida públicamente como “NeuroCurioso”.

De acuerdo con una investigación, la cuenta publicó 1,146 videos generados con inteligencia artificial que acumularon 384.5 millones de vistas. El contenido está relacionado con la política colombiana y presenta un tratamiento favorable hacia Abelardo de la Espriella, mientras otros protagonistas políticos aparecen en situaciones poco favorables.

Lo verdaderamente inquietante no es solamente la cantidad de videos. Es la forma. La investigación documenta el uso de personajes, voces, escenarios y escenas generadas artificialmente para construir piezas con apariencia de reportajes. Supuestos reporteros, testigos y entrevistados aparecen frente a la cámara como si fueran personas reales. Hay entrevistas, enlaces y situaciones que buscan reproducir el lenguaje audiovisual que durante años hemos asociado con la información periodística.

Y ahí aparece una pregunta: ¿qué sucede cuando una mentira tiene el aspecto de una noticia?

Para alguien acostumbrado a identificar errores evidentes, quizá sea sencillo detectar determinadas señales. Pero la propia investigación muestra que estos contenidos pueden resultar difíciles de distinguir de registros reales. Incluso existen comentarios de usuarios que aparentemente reaccionan ante las publicaciones como si estuvieran frente a acontecimientos verdaderos.

La página aparece identificada en Facebook como “Contenido de IA”. Sin embargo, una etiqueta no necesariamente significa que quien consume un video comprenda hasta qué punto fue fabricado. Una cosa es saber que una imagen fue creada artificialmente y otra muy distinta advertir que detrás de ella puede existir una narrativa política construida deliberadamente.

El dato sobre Abelardo de la Espriella resulta particularmente relevante dentro de la investigación. Se revisaron directamente 50 videos relacionados con él y los 50 fueron considerados favorables. Es decir, en la muestra analizada, el tratamiento favorable alcanzó el 100 por ciento.
Mientras tanto, otros actores políticos aparecen con una proporción mayor de contenidos negativos.

Esto plantea una cuestión que va más allá de la tecnología: la inteligencia artificial puede convertirse en una herramienta para producir y multiplicar una determinada narrativa a una velocidad difícil de alcanzar mediante métodos tradicionales.

El volumen también importa. 1,146 videos y 384.5 millones de vistas no representan una publicación aislada. Representan una capacidad sostenida para producir contenido y llevarlo hasta una audiencia masiva.

Y quizá ese sea uno de los mayores desafíos que tenemos delante.

Durante mucho tiempo pensamos que la desinformación consistía en tomar una fotografía falsa, alterar una declaración o compartir una noticia inventada. Ahora podemos encontrarnos con personajes que nunca existieron diciendo cosas que nunca dijeron, en lugares que quizá nunca estuvieron ahí, frente a una cámara que tampoco registró ese momento.

La frontera entre realidad y ficción comienza entonces a hacerse más difícil de reconocer.

La pregunta ya no es solamente hasta dónde llegará la inteligencia artificial. La pregunta es hasta dónde estaremos dispuestos a permitir que llegue su utilización para fabricar percepciones. La tecnología seguirá avanzando. Los videos serán cada vez más convincentes y las herramientas estarán cada vez más al alcance de quienes quieran utilizarlas. Frente a eso, no basta con pedirle al público que “aprenda a distinguir” lo verdadero de lo falso. También será necesario discutir cómo se identifica este contenido, cómo se transparenta su origen y qué responsabilidades existen cuando se utiliza para influir políticamente.

Porque el problema no es que una máquina pueda inventar un reportero. El problema es que nosotros podamos terminar creyéndole.

El caso de “NeuroCurioso” debería servir, al menos, para formular las preguntas correctas. ¿Qué nos depara un entorno en el que cualquier persona puede fabricar un supuesto testimonio? ¿Qué ocurrirá cuando la diferencia entre un reportaje real y uno generado artificialmente sea prácticamente imperceptible? ¿Cómo protegeremos la conversación pública cuando producir una narrativa falsa sea tan sencillo como producir una verdadera?

La inteligencia artificial no tiene una intención propia. Somos nosotros quienes decidimos cómo utilizarla. Por eso, el verdadero debate no debería ser si la IA es buena o mala. Debería ser qué estamos haciendo con ella.