Un equipo de investigadores de seguridad logró ingresar a sistemas internos de OpenAI aprovechando Claude, el modelo de inteligencia artificial desarrollado por Anthropic, en el marco de una investigación autorizada de vulnerabilidades. Los investigadores consiguieron explotar una brecha para obtener credenciales digitales que, posteriormente, les permitieron acceder a una cuenta de ChatGPT de un empleado de OpenAI y consultar archivos y proponer cambios en un repositorio privado de software de la empresa.
Según The Wall Street Journal, los investigadores formaban parte de Hacktron AI y participaban en un programa de OpenAI destinado a detectar fallos de seguridad. OpenAI informó de los problemas detectados y recompensó al equipo con 6.500 dólares por sus hallazgos.
El caso ilustra cómo una herramienta de IA puede acelerar una investigación de ciberseguridad, pero también plantea preguntas sobre las posibles consecuencias de emplear modelos cada vez más potentes para descubrir y explotar vulnerabilidades.
La investigación se inició el 23 de julio, cuando los especialistas identificaron un problema en la forma en que la plataforma Discourse procesaba ciertos archivos de imagen. Discourse es el software utilizado para gestionar los foros en línea de OpenAI.
En la prueba, los investigadores tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados en ciberseguridad. El equipo solicitó al modelo que generara código capaz de aprovechar la vulnerabilidad detectada.
El primer intento con Claude no logró explotar la falla. Sin embargo, esa misma noche Anthropic lanzó una versión posterior del modelo, Opus 5. Al día siguiente, el equipo volvió a usarlo y Claude encontró una vía para aprovechar la vulnerabilidad.
El código permitió acceder a un servidor de Discourse utilizado por los foros de OpenAI. Desde allí, los investigadores obtuvieron tokens de autenticación, credenciales que permiten a un usuario o servicio demostrar su identidad ante otros sistemas. El hallazgo cobró mayor relevancia al comprobarse que algunos tokens podían emplearse para ingresar a ChatGPT.
Entre las credenciales halladas había algunas asociadas a empleados de OpenAI. Además, los investigadores detectaron que dichos tokens podían usarse para acceder al servicio GitHub de la compañía, una plataforma empleada para almacenar y gestionar código y otros elementos relacionados con el desarrollo de software.
Así, una vulnerabilidad inicialmente vinculada al procesamiento de imágenes en un foro terminó abriendo una vía para acceder a sistemas y recursos ajenos al fallo inicial.
Los investigadores notificaron los hallazgos a OpenAI a través del programa de búsqueda de vulnerabilidades. La compañía agradeció el aviso y procedió a remunerar al equipo con el monto acordado.