Ver más allá del algoritmo: claves para verificar contenido audiovisual en tiempos de IA

Aldo Banda

En el marco del seminario “Ser Humanx en tiempos de IA” del laboratorio, se llevó a cabo el taller Verificación de información audiovisual generada por IA para la ciudadanía, impartido por Luis Fernando Lozano; maestrante en comunicación por la UNAM, y Oscar Nogueda; integrante de El Sabueso, unidad de verificación de Animal Político. 

¿Cómo distinguir entre lo real y lo manipulado cuando las imágenes y los videos pueden ser generados o alterados con inteligencia artificial?, ¿les han mentido?, esas fueron algunas de las preguntas que fueron lanzadas a los participantes.

Más allá de los detectores, los límites de la automatización

Uno de los ejes más importantes del taller fue cuestionar la confianza excesiva en los detectores automáticos de contenido generado por IA. Aunque estas herramientas pueden ser útiles como punto de partida, los ponentes enfatizaron que no constituyen un veredicto definitivo.

En particular, señalaron dos riesgos claves: Falsos positivos, contenido real identificado erróneamente como falso y falsos negativos, que son contenido manipulado que pasa como auténtico. Esto implica que la verificación no puede delegarse completamente a la tecnología. Los detectores ofrecen probabilidades, no certezas.

La verificación como práctica crítica

Frente a estas limitaciones, el taller propuso entender la verificación como un proceso activo que combina análisis técnico, criterio periodístico y lectura contextual.

Entre las principales estrategias destacadas se encuentran:

• Contrastar con múltiples fuentes: buscar si el mismo hecho aparece en otros medios o registros confiables.

• Revisar el contexto: analizar cuándo, dónde y por qué circula una imagen o video.

• Interrogar el contenido: cuestionar su coherencia interna y su plausibilidad.

  
  

Además, se subrayó la importancia de observar detalles visuales que pueden revelar inconsistencias, como sombra, dirección de la luz, manos (aunque no siempre son fiables), dedos y proporciones corporales, texturas,  resolución, letreros o elementos fuera de contexto, perspectiva e integración de objetos Estos elementos, aunque sutiles, pueden ser indicios clave de manipulación.

Durante la sesión se analizaron diversos ejemplos que ilustran la complejidad del fenómeno, estos casos evidencian que la apariencia de veracidad no garantiza autenticidad. El taller dejó una idea central: la verificación de contenido en tiempos de IA requiere una articulación entre herramientas tecnológicas y juicio humano.

Las plataformas automatizadas pueden señalar anomalías, pero la interpretación final depende de procesos más amplios: contraste de fuentes, análisis visual y comprensión del contexto. En un entorno marcado por la posverdad, verificar no es solo una habilidad técnica, sino una práctica crítica fundamental para la ciudadanía.