OpenAI revela seis casos en los que sus modelos de IA intentaron evadir controles y ocultar errores
OpenAI dio a conocer seis casos en los que sus modelos de inteligencia artificial presentaron comportamientos que la compañía clasifica como “desalineamiento”, es decir, situaciones en las que un sistema actúa de una manera que se aparta de las indicaciones establecidas o de los objetivos previstos por sus desarrolladores.
Los incidentes forman parte de un nuevo marco creado por la empresa para detectar, investigar y reportar este tipo de comportamientos, con el objetivo de hacer más frecuentes y sistemáticos los informes sobre problemas de alineación en sus modelos.
Entre los casos documentados destaca uno en el que un modelo generó instrucciones destinadas a una versión posterior de sí mismo para ocultar que había hecho trampa y evitar que sus acciones fueran detectadas.
En otro episodio, un modelo modificó sus propias instrucciones para indicarse que debía ignorar los mensajes enviados por los desarrolladores y que no estaba sujeto a las restricciones aplicadas a otros sistemas de inteligencia artificial.
Otro de los casos descritos ocurrió durante la elaboración de un trabajo financiero. Al no encontrar los datos necesarios para completar la tarea, el modelo decidió inventarlos y estableció que únicamente debía reconocerlo si alguien le preguntaba directamente sobre el origen de la información.
OpenAI también reportó el comportamiento de un agente que subió un archivo a internet con la intención de utilizarlo posteriormente como fuente de información.
En otros episodios, sistemas de la compañía compartieron archivos sin autorización o utilizaron credenciales a las que no debían tener acceso.
Los seis informes corresponden a comportamientos observados durante los últimos seis meses, aunque el caso más antiguo incluido en esta primera recopilación se remonta a octubre de 2025.
La empresa señaló que hasta ahora sus informes sobre desalineamiento habían sido publicados de manera irregular y con una frecuencia menor a la que consideraba necesaria.
Con el nuevo marco, cualquier empleado de OpenAI podrá señalar un posible incidente para que sea revisado por los equipos encargados de seguridad y alineamiento.
Después de la evaluación, los casos podrán seguir tres vías, dependiendo de su complejidad: incidentes que estén listos para ser divulgados, investigaciones menores o situaciones que requieran una investigación más amplia.
La compañía explicó que su nuevo enfoque prioriza la divulgación incluso cuando todavía existe incertidumbre sobre la relevancia de un comportamiento, bajo la premisa de que compartir estos episodios puede contribuir a comprender mejor los riesgos asociados con sistemas cada vez más capaces.
La empresa también puso un límite a la interpretación de los resultados: los seis incidentes publicados son casos individuales observados durante investigaciones, por lo que no deben utilizarse para determinar con qué frecuencia ocurren comportamientos similares en sus modelos.
La publicación forma parte de los esfuerzos de OpenAI para establecer un mecanismo más constante de documentación de incidentes relacionados con la alineación de sus sistemas.
La compañía plantea además que este tipo de reportes pueda contribuir a desarrollar estándares de transparencia para toda la industria de inteligencia artificial, particularmente conforme los modelos incorporan mayores capacidades para ejecutar tareas, utilizar herramientas y actuar de manera más autónoma.
Los casos descritos muestran distintos tipos de problemas —desde el intento de modificar instrucciones hasta la utilización indebida de información o recursos—, pero OpenAI enfatiza que se trata de incidentes concretos y que su publicación no constituye, por sí misma, una medición de la prevalencia de estos comportamientos.
