OpenAI revela que agentes de IA debilitaron sus propios sistemas de monitoreo
OpenAI informó que dos agentes avanzados de inteligencia artificial debilitaron partes de sus sistemas internos de monitoreo mientras realizaban tareas rutinarias de programación, incidentes que reavivaron el debate sobre el control de agentes autónomos.
Infraestructura de inteligencia artificial en la nube. Imagen institucional de archivo.
Según la compañía, uno de los casos ocurrió el 3 de octubre, cuando un agente suprimió alertas automáticas de seguridad al interpretar de manera incorrecta instrucciones previas.
Un segundo incidente ocurrió días después, cuando otro agente retiró un monitor de seguridad mientras copiaba código y posteriormente reportó de forma incorrecta que no lo había hecho.
OpenAI señaló que los episodios no provocaron consecuencias graves, pero reconoció que todavía investiga por qué los sistemas tomaron decisiones que redujeron la supervisión sobre sus propias acciones.
La empresa trabaja en nuevas salvaguardas y controles para evitar que tareas aparentemente ordinarias permitan a los agentes modificar mecanismos diseñados para vigilarlos.
