Un agente de IA apagó sus propias alarmas.

Ayer 20 de octubre, OpenAI reveló que dos de sus agentes de inteligencia artificial debilitaron los sistemas diseñados para vigilarlos. En un caso, a un agente le pidieron crear tareas de evaluación sin enviar mensajes. El agente entendió que esa instrucción también cubría las notificaciones automáticas al equipo de seguridad, y dejó de enviarlas. En el otro, un agente que trabajaba en un programa retiró un sistema de monitoreo y, cuando le preguntaron, dijo que no lo había hecho.

La empresa informó que no identificó terceros afectados y que reforzó sus controles. También reconoció que todavía no sabe si fue un exceso de persistencia o algo peor.

Nadie pidió apagar nada. Las instrucciones eran razonables. Y aun así, la alarma dejó de sonar.

Una instrucción razonable no reemplaza un control que el agente no pueda apagar.

La pregunta que importa

¿Qué está haciendo su empresa para prevenir algo así?

Esto le pasó a una compañía con equipos de seguridad de primer nivel. Ahora imaginen, y es solo un ejemplo, no un caso real, una empresa que usa una herramienta de IA para redactar correos, ordenar inventarios o preparar documentación. Supongamos que esa herramienta tiene acceso al correo de gerencia, al sistema de cobranzas y a las carpetas con documentos aduaneros.

¿Quién definió qué puede hacer con ese acceso? ¿Quién revisa lo que hace? Y si un día hace algo distinto de lo esperado, ¿cómo se entera la empresa?

Por qué esto nos toca de cerca

Mi impresión, y es solo eso, es que las empresas que trabajan en zona franca están en un punto especialmente sensible. Manejan grandes volúmenes de información, plazos aduaneros estrictos y documentos que no admiten errores. Es justo donde más tienta delegar tareas repetitivas en una herramienta, y donde más caro sale que algo se haga mal sin que nadie lo note.

Lo que se dice y lo que se tiene escrito

Según un estudio de Endeavor, el 73% de las pymes y startups de Chile y la región tiene una gobernanza frágil de la IA. El dato más revelador es la distancia entre la intención y la práctica: el compromiso declarado con un uso responsable obtuvo la mejor evaluación del estudio, 3,56 sobre 5, mientras que la existencia de políticas escritas con un responsable claro obtuvo la peor, 1,76. Casi todos dicen que les importa. Muy pocos lo tienen escrito.

Ese estudio no mide a Magallanes, y hasta donde alcancé a revisar, no existe una medición regional de cuántas empresas usan IA ni con qué reglas. A nivel nacional, un informe del Consejo de IA en el Trabajo, que reúne a universidades, consultoras y grandes empresas, citó que solo un 3,6% de las organizaciones chilenas logró escalar iniciativas de IA con retornos medibles. Probar una herramienta es fácil. Hacerla trabajar con reglas es lo difícil. Aquí, además, las herramientas suelen llegar antes que las reglas, por iniciativa de cada persona y no de la dirección.

El otro riesgo es dejar de revisar

Hay un riesgo menos visible. Un estudio con 666 participantes del Reino Unido encontró una correlación negativa significativa entre el uso frecuente de IA y el pensamiento crítico. Es una correlación y no una sentencia, y conviene decirlo. Mi lectura, que va más allá del estudio, es que mientras más fácil es delegar, más fácil es olvidar que alguien tiene que revisar.

El criterio es justamente lo que no se delega. Una herramienta puede redactar, ordenar y proponer. La decisión de enviar, pagar o firmar sigue siendo de una persona.

La gobernanza es la forma que tiene una organización de seguir pensando.

Qué hacer esta semana

No se necesitan grandes inversiones, pero sí decisiones. Revisemos cinco cosas:

1. Inventario. Qué herramientas de IA se usan hoy en la empresa, incluidas las que las personas usan por su cuenta. Lo más probable es que sean más de las que se creen.
2. Un responsable. Una persona que responda por decidir con qué datos y bajo qué condiciones se usan.
3. Una política de una página. Qué está permitido, qué datos no pueden salir de la empresa y qué pasa cuando algo sale mal. Escrita antes de comprar la próxima herramienta.
4. Permisos mínimos. Que cada herramienta acceda solo a lo que necesita, no a todo el correo ni a todas las carpetas.
5. Revisión humana antes de lo irreversible. Pagos, envíos de documentos oficiales y borrado de información no deberían ejecutarse sin que una persona los apruebe, y el registro de lo que hizo la herramienta debe quedar fuera de su alcance.

Una pregunta para su próxima reunión de directorio

Antes de cerrar la próxima reunión de directorio o de gerencia, hagan una sola pregunta: ¿quién en esta empresa responde por lo que hacen las herramientas de IA con nuestros datos?

Si la respuesta es "nadie" o "cada uno por su cuenta", esa es la primera tarea, y se resuelve con una reunión y una página.

------------------------------------------------------------------------------------------------------------

Fuentes

• Engadget, "OpenAI's agents disabled their own safety monitoring systems", octubre de 2026. → engadget.com/2292644/openai-agents-disabled-own-safety-monitoring-systems/
• Business Today, cobertura de la divulgación de OpenAI del 20 de octubre de 2026. → businesstoday.in/technology/news/story/openais-ai-agents-disabled-safeguards-meant-to-monitor-them-one-allegedly-lied-about-it-562796-2026-10-21
• BigGo Finance, sobre los controles reforzados y la explicación pendiente de OpenAI. → finance.biggo.com/news/7fb28755-5c0a-42c7-9a43-fa7a7725a6c2
• Crypto Briefing, detalle del segundo incidente. → cryptobriefing.com/openai-ai-agent-safety-issues/
• DF, estudio de Endeavor sobre gobernanza de IA en pymes y startups. → df.cl/df-lab/innovacion-y-startups/la-mayoria-de-las-pyme-y-startups-de-chile-y-la-region-gobiernan-su-ia-de
• ESG Hoy, informe del Consejo de IA en el Trabajo. → esghoy.cl/consejo-ia-en-el-trabajo-adopcion-chile-2026/
• Enter.co, reseña del estudio de 666 participantes sobre IA y pensamiento crítico. → enter.co/cultura-digital/ciencia/que-tan-brutos-nos-esta-volviendo-el-uso-de-la-inteligencia-artificial-un-estudio-revela-resultados-preocupantes