En julio se denunciaron fotos de alumnas «desnudadas» con inteligencia artificial en el Nacional Buenos Aires y el Carlos Pellegrini, dos colegios porteños. Ahora Apple anunció que sacará de su tienda las aplicaciones que fabrican esas imágenes sin permiso.
Apple actualizó el 16 de octubre las reglas de la App Store, su tienda de aplicaciones. Prohibió de forma explícita las apps de inteligencia artificial que crean imágenes íntimas de personas reales sin su consentimiento.
Quienes desarrollan apps tienen que prevenir y borrar ese contenido. Si no lo hacen, Apple puede sacar la app y echar a sus responsables de su programa para desarrolladores.
La nueva regla 2.5.19 además prohíbe las funciones ocultas. Apunta a las apps que parecen inocentes cuando Apple las revisa y que, una vez aprobadas, habilitan la opción de «desnudar» fotos.
La medida también vale para la Argentina. Pero no es una ley: depende de que Apple la controle.
**Lo que pasa en las aulas porteñas**
La fiscalía de la Ciudad especializada en delitos informáticos (UFEDyCI) registró denuncias por imágenes hechas con IA en colegios: 4 en 2023, 5 en 2024, 9 en 2025 y 4 hasta julio de 2026. Son 22 en menos de cuatro años.
La Defensoría del Pueblo porteña encuestó este año a 912 estudiantes de 12 a 19 años. El 43% recibió imágenes o videos editados con IA y el 13% conoce casos en su escuela.
**Un vacío en la ley**
La Ley Olimpia, de 2023, reconoce la violencia digital contra las mujeres, pero no castiga específicamente fabricar desnudos falsos con IA. Si la víctima es menor de edad, las fiscalías suelen usar el artículo 128 del Código Penal, que trata sobre el material de abuso sexual infantil.
Hay proyectos en el Congreso, como el que presentó en junio el diputado Marcelo Mango. Ninguno es ley. Chaco aprobó una norma provincial que castiga con multas, no con cárcel.
Como contó ccomusoc el 8 de octubre a propósito de Instagram, ninguna ley argentina obliga a las plataformas a medir antes el riesgo para chicos y chicas. Hoy, frenar estas apps depende más de las reglas de una empresa que de las leyes del país.
Quien sea víctima puede llamar a la Línea 102 o a la 137, o ir a la fiscalía más cercana. Conviene guardar capturas antes de bloquear a quien agrede, y no reenviar la imagen.
Glosario
- Inteligencia artificial (IA): programas que crean textos, imágenes o videos a partir de instrucciones.
- App Store: la tienda oficial de aplicaciones de los iPhone.
- Consentimiento: permiso claro y libre que da una persona.
- Ley Olimpia: ley argentina de 2023 que sumó la violencia digital a las formas de violencia contra las mujeres.
CCOMUSOC se sostiene con el aporte de quienes nos leen. Si te sirve, podés colaborar con un aporte mensual y acceder a contenido exclusivo y a la revista completa.