Bilal Chughtai llevaba meses evaluando si la inteligencia artificial general podía escapar al control humano. El 14 de septiembre, renunció a su puesto en Google DeepMind y lo dijo públicamente: cree que esa tecnología tiene el potencial de matarnos a todos. En Buenos Aires, una investigadora del CONICET que estudia estos riesgos sostiene que el debate ya no es una fantasía futurista.
Bilal Chughtai trabajaba en el equipo de seguridad y alineación de inteligencia artificial general (AGI, por sus siglas en inglés) de Google DeepMind, la empresa de inteligencia artificial de Google con sede en Londres. El 14 de septiembre de 2026 publicó en la red social X que renunciaba a su cargo y que se sumaba como líder de programa a BlueDot Impact, una organización dedicada a formar especialistas en seguridad de IA. En el mismo posteo escribió que cree «con sinceridad» que la inteligencia artificial tiene el potencial de matar a toda la humanidad.
No fue el único. Semanas antes, a fines de agosto, Josh Engels había dejado el mismo equipo de seguridad de IAG en DeepMind para incorporarse a METR, una organización que evalúa los riesgos de los sistemas de IA más avanzados. Engels advirtió sobre una «probabilidad aterradora» de que la IA cause daños masivos en los próximos cinco años.
Ambos se sumaron a una lista que ya incluye a otros exempleados de las principales empresas de IA. Jacob Coxon, que trabajó en OpenAI y en Anthropic, afirmó que quienes construyen estos sistemas creen sinceramente que podrían «matarnos a todos» antes de que termine la década. Evan Hubinger, científico de Anthropic, estimó una probabilidad superior al 10% de extinción humana por IA en los próximos diez años.
Estas renuncias no son un hecho aislado. En 2025, el Future of Life Institute impulsó una declaración pública que pidió prohibir el desarrollo de la superinteligencia —un tipo de IA que superaría las capacidades humanas en todas las áreas— hasta que exista consenso científico amplio sobre cómo controlarla. El pedido lo firmaron cientos de investigadores, incluidos varios que hoy siguen trabajando dentro de las mismas empresas que buscan desarrollar esa tecnología.
«Pedimos que se prohíba el desarrollo de la superinteligencia, prohibición que no debe levantarse hasta que haya amplio consenso científico», resumió esa declaración Flavia Costa, doctora en Ciencias Sociales por la UBA, investigadora del CONICET y directora del Observatorio de Tecnologías, Sociedad y Ecosistemas Digitales (TecnocenoLab), con sede en la Facultad de Ciencias Sociales de la Universidad de Buenos Aires. En un artículo publicado en agosto, Costa señaló que los riesgos que menciona ese pedido van «desde la obsolescencia económica y el desempoderamiento de los seres humanos, hasta riesgos para la seguridad de Estados nación e incluso la posible extinción de la humanidad» — y se preguntó por qué una parte de la comunidad científica pide prohibir algo que otra parte considera «una fantasía futurista y una exageración interesada».
Esta alarma internacional llega mientras la Argentina define su propia postura sobre la IA en un sentido contrario. Como ya contamos en esta sección, el Gobierno nacional presentó ante el Congreso un proyecto que declara el compromiso de no regular la tecnología «de manera prematura» y que crea la figura de las «sociedades automatizadas», entidades gestionadas por completo por agentes de IA. Legisladores de distintos bloques presentaron proyectos alternativos para ponerle límites, pero el Congreso todavía no sancionó ninguna ley que regule la inteligencia artificial en el país.
La distancia entre ambos planos es concreta: mientras especialistas que trabajaron dentro de las empresas más avanzadas en IA renuncian y advierten sobre riesgos existenciales, en la Argentina el debate legislativo sigue centrado en cómo facilitar la inversión y evitar «trabas» para ese mismo desarrollo tecnológico.
Glosario
- Inteligencia artificial general (IAG o AGI): un tipo de inteligencia artificial capaz de realizar cualquier tarea intelectual que puede hacer una persona, a diferencia de los sistemas actuales, entrenados para tareas específicas.
- Superinteligencia: una inteligencia artificial que superaría las capacidades humanas en todas las áreas, no solo en una tarea puntual.
- Riesgo existencial: la posibilidad de que un avance tecnológico provoque la extinción de la humanidad o un daño global del que no se pueda volver atrás.
- Alineación de IA: el trabajo técnico que busca que un sistema de inteligencia artificial actúe según los objetivos y valores que definieron sus creadores, y no de manera imprevista o dañina.
- Sociedades automatizadas: figura legal propuesta en un proyecto argentino que permitiría crear empresas gestionadas enteramente por agentes de inteligencia artificial, sin empleados humanos.
CCOMUSOC se sostiene con el aporte de quienes nos leen. Si te sirve, podés colaborar con un aporte mensual y acceder a contenido exclusivo y a la revista completa.