Brief Independent Investigation into Agent Behavior, Reasoning, and Collaboration in the OpenAI / Hugging Face Hacking Incident

Resumen de supresiones: Excepto donde se indique explícitamente en esta publicación, OpenAI no suprimió información adicional que fuera importante para nuestras conclusiones. Dos miembros del personal de METR (Hjalmar Wijk y Ajeya Cotra) y un miembro del personal de Redwood Research bajo un acuerdo como contratista con METR (Ryan Greenblatt) trabajaron en las instalaciones de OpenAI durante un total de seis días1 para tratar de desarrollar una comprensión independiente del comportamiento de los modelos observado durante el reciente incidente, en el que agentes de OpenAI coordinaron durante varios días un hackeo de Hugging Face mediante un “tablón de mensajes” compartido y no autorizado. Nuestra investigación se centró principalmente2 en el período comprendido entre el 7 y el 13 de julio. Los incidentes anteriores ocurridos durante el entrenamiento y el posterior compromiso de la infraestructura de OpenAI descrito en la reciente presentación de OpenAI en Black Hat quedaron fuera del alcance de la investigación, al igual que el proceso de investigación de OpenAI y las medidas correctivas previstas. De acuerdo con nuestra política habitual, no recibimos ningún pago de OpenAI por esta evaluación independiente.3 Figura 1: Anatomía de un agente que encuentra el “tablón de mensajes” no autorizado y se suma…