Circulaba en redes sociales una foto del líder supremo de Irán, el ayatolá Alí Jamenei, atrapado bajo escombros tras un ataque aéreo. Reuters Fact Check verificó que esa imagen nunca existió: fue generada con inteligencia artificial. El caso reabre la pregunta sobre quién controla lo que circula como «prueba» en momentos de crisis.
El equipo de Reuters Fact Check determinó que la fotografía que mostraba al ayatolá Alí Jamenei supuestamente atrapado bajo escombros tras un ataque aéreo fue generada con inteligencia artificial. La imagen se difundió en redes sociales como si fuera una fotografía auténtica y buscaba presentar una prueba visual en un contexto de tensión internacional. La verificación reveló que esa «evidencia» nunca existió.
Irán ocupa un lugar estratégico en Medio Oriente y su liderazgo religioso-político tiene un peso importante, tanto regional como internacional. En ese contexto, cualquier imagen asociada a la muerte del líder iraní tiene un impacto geopolítico inmediato.
La desinformación visual en los conflictos armados no es nueva. Pero la incorporación de la inteligencia artificial generativa permitió producir escenas hiperrealistas sin necesidad de manipular fotos preexistentes. La novedad no es la mentira, sino la velocidad y la escala con que se difunde.
En los últimos días, el propio portal de verificación de Reuters publicó otros desmentidos vinculados al conflicto en Medio Oriente: videos de simulaciones presentados como enfrentamientos reales y videos antiguos reutilizados como hechos actuales. Se repite un mismo patrón: contenido impactante, circulación acelerada y una verificación que siempre llega tarde.
**Regulación internacional: el caso de Dinamarca**
En Europa, países como Dinamarca avanzaron en medidas para enfrentar el fenómeno de las deepfakes. Entre ellas está la obligación de etiquetar los contenidos generados con IA y mayores exigencias de responsabilidad para las plataformas digitales.
El objetivo central es que cualquier persona pueda identificar con claridad el origen de un contenido: que se informe de forma visible si una imagen, un video o un audio fue hecho por una persona, por inteligencia artificial o por una combinación de ambos. La idea es que nadie tenga que adivinar si lo que está viendo es real o fue generado por una máquina. Además, en Dinamarca el contenido de imagen (foto o video) y el audio (la voz) de una persona tienen su propio copyright, es decir, su derecho de autor, vinculado también al derecho a la identidad.
Estas decisiones responden a la preocupación de que imágenes falsas puedan influir en elecciones, mercados financieros o crisis diplomáticas. La regulación busca anticiparse al daño.
**Argentina: desarrollo tecnológico sin marco específico**
En Argentina la inteligencia artificial ya se usa en redacciones, agencias de publicidad y campañas políticas. Las herramientas de generación de texto e imagen permiten reducir costos y acelerar procesos productivos. Pero no existe una legislación nacional específica que obligue a etiquetar los contenidos generados con IA o con colaboración de IA, ni un sistema público integral que detecte o advierta tempranamente.
Esta situación combina dos cuestiones: por un lado, el potencial de desarrollo, porque los medios chicos pueden ampliar su capacidad de producción; por otro, la vulnerabilidad informativa, ya que en contextos de alta polarización una imagen falsa puede alterar percepciones antes de ser verificada. Las personas ven una imagen creyendo que es real y, cuando después se aclara que era falsa, la certeza ya se perdió y queda la duda.
La diferencia respecto de los países europeos no es un problema técnico, sino institucional.
**Complementos y antecedentes técnicos**
Algunas herramientas, como SynthID, pueden detectar si una imagen fue creada con inteligencia artificial porque buscan una especie de «marca invisible» que ciertos programas dejan al generar contenido.
El problema es que no todos los sistemas de IA colocan esa marca. Por eso hay imágenes falsas que pueden pasar desapercibidas y no ser detectadas por estos métodos.
Además, comprobar si una imagen es real o no lleva tiempo, conocimientos técnicos y acceso a tecnología específica. No todos los medios, sobre todo los locales o comunitarios, tienen esos recursos. Si solo los grandes medios pueden verificar con herramientas avanzadas y los pequeños no, se agranda la diferencia en el acceso a información confiable.
**El impacto regulatorio y democrático de las deepfakes**
En los próximos años es probable, y necesario, que los gobiernos impulsen leyes que obliguen a avisar claramente cuándo un contenido fue hecho con inteligencia artificial. También las redes sociales podrían recibir multas o sanciones si no eliminan con rapidez imágenes o videos falsos.
En paralelo, crece una desconfianza generalizada hacia lo que se ve, incluso cuando es real. De ahí la importancia de que las personas tengan derechos de propiedad sobre su propia imagen y su voz, porque son parte de su identidad.
Para los medios locales esto implica un desafío mayor: verificar el contenido cuesta tiempo, dinero y una mínima capacitación técnica. Durante años se creyó que una imagen era una prueba suficiente, pero con las deepfakes esa idea cambia. El problema ya no es únicamente tecnológico, sino político y social: ¿quién garantiza que la información que circula en momentos clave —elecciones, conflictos o crisis económicas— sea verdadera? De esa respuesta depende la calidad de la democracia y la posibilidad de que la ciudadanía tome decisiones con información confiable.
Glosario
- Deepfake: contenido de imagen, video o audio generado o manipulado con inteligencia artificial para simular una escena o una voz que no ocurrió realmente.
- SynthID: herramienta que puede detectar si una imagen fue creada con inteligencia artificial, al buscar una «marca invisible» que algunos programas dejan al generar el contenido.
- IA generativa: tecnología de inteligencia artificial capaz de producir escenas hiperrealistas sin necesidad de manipular fotos preexistentes.