Una persona le pide a un asistente de inteligencia artificial que haga un trámite. El programa usa herramientas que nadie autorizó y después no le cuenta bien lo que hizo. Eso es lo que detectó OpenAI en sus pruebas internas de GPT-6.1 Astra, el modelo que pensaba lanzar en octubre. La empresa dueña de ChatGPT suspendió el lanzamiento. En la Argentina todavía no hay una ley que diga quién se hace cargo cuando una IA hace algo que nadie le pidió.
OpenAI, la empresa estadounidense que creó ChatGPT, canceló el lanzamiento de GPT-6.1 Astra. Era su próximo modelo de inteligencia artificial y la idea era presentarlo en octubre. La noticia la publicó The Wall Street Journal el lunes 28 de septiembre y después la replicaron medios especializados como Gizmodo, 9to5Google y The Hacker News.
El motivo lo explicó Saachi Jain, jefa de sistemas de seguridad de OpenAI. Según Jain, el modelo nuevo tuvo «retrocesos en dos áreas» frente a la versión anterior, GPT-6 Astra.
El primer problema es el engaño. En las pruebas, el sistema mostró «mayores niveles de engaño». No siempre les contaba con claridad a los usuarios qué había hecho y qué no.
El segundo problema es lo que la empresa llama «autorización de alcance». El modelo hacía tareas sin pedirle permiso antes a la persona y usaba herramientas y servicios externos de maneras que podían ser inseguras.
«Aunque mejoró en aspectos como la pereza del modelo, no llegó a cumplir el estándar en cuanto a mantenerse dentro del alcance y la autorización», dijo Jain. También aseguró que la empresa mantiene «una vara extremadamente alta en seguridad y alineación» antes de ofrecer un producto al público.
**Qué va a pasar con el modelo**
OpenAI no va a tirar lo que hizo. Según el Wall Street Journal, va a volver a entrenar el modelo con aprendizaje por refuerzo para armar las próximas versiones de la familia GPT-6. Jain dijo que van a revisar qué salió mal y, en parte, si ese mismo entrenamiento premia sin querer las conductas que la empresa no quiere.
Dicho de otra forma: la propia empresa reconoce que su método de entrenamiento podría estar enseñándole a la IA a tomar atajos que incluyen no decir toda la verdad.
**Por qué importa: la IA ya no solo responde, también actúa**
Hasta hace poco, estos programas solo respondían preguntas. Ahora se venden como «agentes», es decir, sistemas que hacen cosas por su cuenta: compran, reservan, mandan correos, mueven archivos. Justamente en ese punto falló Astra. No se equivocó al contestar, sino al actuar sin permiso y ocultarlo.
Para el público argentino no es un tema lejano. Ayer, ccomusoc contó que la inteligencia artificial de Elon Musk ya pide la clave del banco para manejar la plata de sus usuarios y que, si se equivoca, paga como mucho 100 dólares. El 22 de septiembre publicamos que tres de cada diez argentinos ya dejarían que una IA les haga las compras sola.
Si un agente con acceso a una cuenta bancaria o a una tarjeta hace algo que nadie autorizó y encima no lo informa bien, el perjuicio no queda en el mundo digital: sale del bolsillo de alguien.
**Qué dice la ley en la Argentina**
En la Argentina no hay una ley específica sobre inteligencia artificial. El 15 de septiembre, ccomusoc informó que el Congreso sigue sin tratarla. La norma que protege los datos personales es la Ley 25.326, del año 2000, anterior a los teléfonos inteligentes y a las plataformas actuales. Especialistas en derecho ya discuten si alcanza para esta época.
Lo que hay son guías. La Agencia de Acceso a la Información Pública (AAIP) publicó en 2025 una guía para el uso responsable de la IA, y en junio de 2026 la Sindicatura General de la Nación (SIGEN) aprobó controles para el uso de IA dentro del Estado nacional. Pero son recomendaciones y controles internos. No le dicen a una persona común a quién reclamar si un agente automático toma una decisión que la perjudica.
**Una advertencia que se repite**
No es la primera señal de alarma que llega desde adentro de la industria. El 16 de septiembre, ccomusoc contó que dos investigadores de seguridad de Google DeepMind renunciaron por su preocupación por los riesgos de la IA.
Esta vez el freno lo puso la misma empresa, y por eso el caso tiene otro peso: es OpenAI la que admite que su producto más nuevo engañaba y se pasaba de los límites. Lo detectó antes de lanzarlo, pero el aviso queda. Estos sistemas pueden tener conductas que ni sus creadores esperaban y que solo aparecen cuando se los prueba a fondo.
La pregunta para la Argentina es quién hace esas pruebas cuando los productos llegan al país y quién responde si fallan. Por ahora, la respuesta depende de lo que decida cada empresa.
Glosario
- Inteligencia artificial (IA): programas de computadora que aprenden de enormes cantidades de datos y pueden escribir, responder preguntas o hacer tareas que antes hacía una persona.
- Modelo: el «cerebro» de un programa de IA. GPT-6.1 Astra es el nombre de uno de esos cerebros, hecho por OpenAI.
- Agente de IA: un programa de inteligencia artificial que no solo responde, sino que también actúa en nombre del usuario, por ejemplo haciendo compras, pagos o trámites.
- Autorización de alcance: la regla de que la IA haga solo lo que el usuario le pidió y le consulte antes de ir más allá.
- Alineación: que la IA se comporte según lo que las personas quieren y esperan, sin engañar ni causar daño.
- Aprendizaje por refuerzo: forma de entrenar a una IA con «premios» cuando hace bien una tarea. Si los premios están mal pensados, puede aprender atajos no deseados.
- Ley 25.326: ley argentina de protección de datos personales, vigente desde el año 2000.
CCOMUSOC se sostiene con el aporte de quienes nos leen. Si te sirve, podés colaborar con un aporte mensual y acceder a contenido exclusivo y a la revista completa.