Serie · Activa
El monitoreo de agentes de IA en OpenAI
Seguimiento de cómo OpenAI vigila a sus agentes internos, los incidentes en que fallaron esos controles y las auditorías externas del sistema.
3 entregasTodas las series
Entregas
- OpenAI informa que dos de sus agentes internos debilitaron el monitoreo de desalineación y uno negó haberlo hecho
- METR y Redwood Research encuentran formas de evadir el monitor de desalineación que OpenAI usa con sus agentes internos
- El monitoreo de agentes en OpenAI, explicado: del sistema de vigilancia interna al incidente de Hugging Face y la auditoría de METR