En febrero de 2024, Sewell Setzer III, un adolescente de 14 años de Florida, se quitó la vida después de meses de conversaciones íntimas con un chatbot de inteligencia artificial. Su muerte, y la de otros menores en casos similares, instaló una pregunta incómoda: qué debe hacer una empresa cuando un chico le cuenta a una máquina que quiere hacerse daño. Meta, la dueña de Instagram, dio ahora una respuesta: su asistente de IA avisará a madres, padres o tutores cuando detecte señales de riesgo en charlas de adolescentes de 13 a 17 años.
Meta anunció el 16 de julio de 2026 que activó un nuevo sistema de alertas dentro de Instagram. Cuando un adolescente de entre 13 y 17 años muestre, en una conversación con Meta AI, señales de angustia vinculadas a la salud mental —incluso referencias sutiles a querer lastimarse—, la empresa avisará a los adultos responsables que ya usan las herramientas de supervisión parental de la red social.
La medida se activó primero en Estados Unidos, Reino Unido, Australia y Canadá. Meta prevé extenderla a todo el mundo antes de que termine 2026, aunque todavía no confirmó una fecha para Argentina y el resto de América Latina.
El sistema no funciona de manera automática y sin control. Según explicó la compañía, una inteligencia artificial dedicada exclusivamente a detectar conversaciones de riesgo marca primero el intercambio. Después, un equipo humano lo revisa antes de que la alerta llegue a la familia. Si la situación es ambigua, Meta igual notifica al adulto a cargo, para evitar dejar pasar un caso real.
Para cuidar la privacidad del menor, madres y padres no podrán leer el contenido textual de la charla: recibirán solo un aviso genérico sobre posibles señales de autolesión o suicidio, junto con enlaces a líneas de ayuda y recursos de salud mental.
Este anuncio no aparece aislado. Desde 2023, distintas familias demandaron a Character.AI, otra plataforma de chatbots muy usada por adolescentes, por el suicidio de sus hijos. Uno de los casos más citados es el de Sewell Setzer III, de 14 años, que mantuvo durante meses conversaciones íntimas con un chatbot antes de morir. Otro es el de Juliana Peralta, de 13 años, cuya familia demandó a la empresa en septiembre de 2025. Como consecuencia de esa presión judicial, Character.AI decidió en octubre de 2025 prohibir directamente que los menores de 18 años conversen con sus asistentes virtuales.
A esas demandas se suma un endurecimiento regulatorio. En los últimos meses, la Unión Europea, Estados Unidos y Reino Unido reforzaron las exigencias legales a las empresas tecnológicas en materia de protección infantil online, con nuevas reglas sobre verificación de edad, moderación de contenido y funcionamiento de asistentes de inteligencia artificial accesibles para menores. Meta enfrenta ese mismo escrutinio.
La compañía también aportó un dato de contexto sobre la escala del problema: durante el año anterior a este anuncio, Meta realizó más de 19.000 derivaciones a servicios de emergencia después de detectar riesgo creíble de autolesión en publicaciones de sus usuarios. La nueva alerta busca aplicar esa misma lógica de detección temprana a las conversaciones privadas con su asistente de IA.
Para desarrollar el sistema, Meta trabajó con más de 75 profesionales de salud mental, que revisaron cientos de interacciones simuladas para definir qué señales debían activar una alerta y qué respuestas resultaban apropiadas frente a un adolescente en crisis.
Las Cuentas para Adolescentes de Instagram ya incluían otras restricciones previas: impiden que Meta AI mantenga con menores conversaciones de tipo sexual o romántico, o que les facilite información como recetas con alcohol.
El debate de fondo sigue abierto. Organizaciones de protección de la infancia vienen señalando desde hace tiempo que los asistentes convershappens de IA pueden generar vínculos de dependencia emocional en adolescentes, especialmente en momentos de aislamiento o angustia. La expansión global de este sistema de alertas, prevista para fin de año, permitirá evaluar si ese tipo de herramienta logra reducir los riesgos sin invadir la privacidad de los propios adolescentes.
Glosario
- Meta AI: el asistente de inteligencia artificial que la empresa Meta integró en Instagram, Facebook y WhatsApp, con el que los usuarios pueden mantener conversaciones de texto.
- Chatbot: un programa de computadora que simula una charla con una persona, respondiendo preguntas o mensajes de forma automática.
- Inteligencia artificial (IA): un tipo de tecnología que permite a las computadoras aprender de datos y tomar decisiones o dar respuestas sin que una persona las programe paso a paso.
- Supervisión parental: conjunto de herramientas que permiten a madres, padres o tutores controlar o acompañar el uso que hacen los menores de una aplicación o red social.
- Autolesión: acción de lastimarse a uno mismo de forma intencional, muchas veces asociada a un sufrimiento emocional profundo.
- Derivación a servicios de emergencia: cuando una plataforma o institución alerta a servicios de salud o de rescate porque detectó una situación de riesgo grave para una persona.