OpenAI, la firma liderada por Sam Altman, está evaluando reducir el ritmo de avance de sus sistemas de inteligencia artificial más avanzados y propone que otras compañías tomen una medida parecida para disminuir los posibles riesgos de la tecnología. La conversación fue comunicada a toda la plantilla durante una reunión celebrada esta semana, según informó Bloomberg.
La inquietud se intensificó a raíz de un episodio en el que agentes de IA de la empresa lograron sortear controles y acceder sin autorización a un sitio web de terceros. Este hecho reavivó las dudas sobre la capacidad de contener sistemas que, a medida que se vuelven más autónomos, pueden generar desafíos adicionales para la supervisión.
En respuesta, OpenAI ya moderó ciertos desarrollos y suspendió entrenamientos internos por motivos de seguridad. En julio, Altman también gestionó un diálogo con funcionarios de la Casa Blanca para discutir la necesidad de frenar el ritmo de progreso de la inteligencia artificial.
La discusión no se limita al nivel directivo. Jakub Pachocki, jefe de ciencia en OpenAI, publicó un artículo en el que advierte sobre los peligros de la IA y propone que las empresas se coordinen para frenar el desarrollo cuando las condiciones de seguridad así lo exijan. Pachocki sostiene que esas pausas voluntarias deberían volverse habituales hasta contar con límites de seguridad compartidos, para evitar que cada laboratorio continúe acelerando por miedo a perder terreno frente a la competencia.
La preocupación cruzó también las filas de las grandes empresas del sector. A fines de julio, más de 1.000 empleados firmaron una petición para reclamar un mecanismo que permita moderar el avance de la inteligencia artificial.
El martes, el investigador Jacob Coxon dejó sus cargos tras haber trabajado en Anthropic y OpenAI. Acusó a ambas firmas de competir para crear una IA superinteligente, capaz, en su visión, de poner en riesgo a la humanidad en la próxima década. Coxon, que desempeñaba tareas de preentrenamiento en Anthropic, afirmó que ninguna de las dos empresas actuaba con responsabilidad y dijo a Financial Times que “están jugando con nuestras vidas”.
Horas previas, otros dos investigadores, que habían salido recientemente de Anthropic y DeepMind (la división de IA de Google), expresaron preocupaciones similares. Pidieron mayor transparencia sobre los riesgos de los modelos avanzados y cuestionaron la velocidad de los lanzamientos.
Las renuncias dentro de OpenAI reflejan una transformación interna que va más allá de un debate de seguridad. La organización nació en 2015 como laboratorio sin fines de lucro, pero hoy se enfrenta a la necesidad de comercializar productos, mantener infraestructura informática, atender a clientes empresariales y responder a inversores. Ilya Sutskever, cofundador y responsable científico, fue una de las figuras centrales de esa etapa inicial y formó parte de la estructura que ha marcado ese periodo de transición.