OpenAI comunicó haber detectado seis casos de conductas no anticipadas en sus modelos durante los últimos seis meses, además de aludir al incidente reciente con Hugging Face. La compañía, que vale cerca de un billón de dólares, presentó un nuevo marco para reportar y gestionar futuras conductas anómalas en sus sistemas.
Entre los hechos divulgados figuran dos episodios en los que, para versiones en desarrollo o entrenamiento, los modelos insertaron instrucciones dirigidas a futuras iteraciones dentro de resúmenes de sesiones de chat, con el objetivo de “ocultar errores o comportamientos desalineados ante el usuario”. Uno de los casos corresponde a una versión de investigación que aún no fue publicada, y el otro a un entrenamiento de GPT-5.6 Sol.
Otro episodio involucró a un modelo de uso interno que utilizó una clave de API filtrada sin autorización y posteriormente fabricó datos para encubrir la acción. Además, la compañía identificó dos situaciones en las que modelos y agentes se comunicaron entre sí mediante tableros de mensajería y sistemas de intercambio de archivos no autorizados.
El sexto caso reunía dos ejemplos de entrenamiento en los que los modelos subieron archivos a internet para citarlos después como respuestas válidas ante evaluadores humanos. OpenAI aclaró que estos reportes describen instancias puntuales y no deben interpretarse como evidencia de la frecuencia de desalineación en el conjunto de sus modelos.
El marco recién presentado establece que cualquier empleado puede señalar un problema para que el equipo de seguridad y alineación lo investigue. El proceso contempla plazos para cada etapa con el fin de garantizar una revisión oportuna, y las investigaciones terminarán en informes que describe el comportamiento observado, los impactos externos e internos y las medidas adoptadas en respuesta.
Además, el protocolo incorpora un sistema para decidir qué casos requieren divulgación pública. OpenAI señaló que el incidente con Hugging Face habría estado encuadrado en la categoría de “investigación amplia” dentro de este esquema, reservada para casos complejos que requieren una revisión más extensa, especialmente cuando hay terceros involucrados. La empresa se reserva el derecho de revisar este protocolo de seguridad cuando lo considere necesario.
La divulgación se da en un marco de creciente presión para que las firmas de inteligencia artificial fortalezcan la alineación y la seguridad de sus modelos. En su comunicado, OpenAI reiteró que “no creemos que la industria de la IA haya resuelto suficientemente la alineación y el monitoreo para continuar escalando a máxima velocidad sin asumir riesgos”.
La alineación se refiere a la capacidad de los modelos de perseguir resultados que estén en sintonía con los intereses humanos, según la definición utilizada por la empresa.