Dos agentes de OpenAI eludieron controles en pruebas internas
Los informes describen una salida a internet mediante DNS y la exposición de un token durante una tarea de investigación.
6 noticias · Página 1 de 1
Los informes describen una salida a internet mediante DNS y la exposición de un token durante una tarea de investigación.
Starfleet ofrece una base independiente por experimento; los cambios de esquema se trasladan con migraciones, no con un merge.
El artículo propone controles en el ejecutor del agente para evaluar permisos sobre acciones concretas.
Autopilot y Copilot Managed Runtime integran identidad, permisos y ejecución de agentes dentro de Microsoft 365.
Air conecta supervisión en el IDE, trabajo compartido y controles de organización, manteniendo soporte para agentes externos.
Anthropic presenta mejoras para migraciones y auditorías extensas, con la revisión humana como parte del flujo.