Jacob Coxon, exinvestigador de IA que trabajó para OpenAI y luego para Anthropic, presentó su renuncia junto con una denuncia sobre la carrera impulsada por las empresas del sector. A su juicio, el impulso por avanzar en IA es “irresponsable” y podría derivar en escenarios en los que una superinteligencia descontrole ataques cibernéticos o acapare recursos y poder fuera del alcance de la humanidad.
Coxon afirmó que la industria de IA está “apostando con nuestras vidas”. En esa misma línea, Evan Hubinger, jefe de alineación en Anthropic, calculó una probabilidad cercana al 10% de que la IA llegue a eliminar a la humanidad. Samuel Marks, investigador de seguridad de la firma, afirmó de forma personal que algunos desarrolladores creen posibles escenarios de extinción humana o resultados comparables. Por su parte, Dario Amodei, CEO de Anthropic, reconoció la preocupación de Coxon en un texto en el que subrayó la necesidad de moderar el ritmo, pero agregó que la presión competitiva dificulta frenar por completo la marcha.
La respuesta de figuras tecnológicas no fue unánime. Elon Musk cuestionó a Coxon y sugirió que su hilo en X podría constituir un montaje o una operación coordinada. Aun así, tanto Musk como Sam Altman, CEO de OpenAI, coincidieron en la idea de desacelerar el desarrollo de IA para ganar tiempo de evaluación y mitigación de riesgos.
Las reacciones en Estados Unidos no tardaron en llegar desde el plano político. Bernie Sanders, senador socialista de Vermont, aprovechó para promover un proyecto de ley orientado a prohibir el desarrollo de una SuperInteligencia Artificial, junto al demócrata Greg Casar. En el bando opositor, Ted Cruz, senador republicano por Texas, calificó a la IA como un riesgo catastrófico y afirmó que la advertencia de Coxon es motivo de preocupación. Chris Van Hollen, senador demócrata, pidió establecer salvaguardas, un régimen de pruebas y abrir un diálogo con China.
En este marco emergió la voz de Daron Acemoglu, premio Nobel de Economía 2024 y profesor del MIT, quien volvió a plantear su crítica. En un extenso mensaje en X, aseguró que la pregunta central no es si la IA es demasiado avanzada, sino si la inteligencia está “distorsionada” por la forma en que se entrena y se orienta. Acemoglu sostiene que el problema no son tanto las capacidades técnicas, sino que estas se canalizan hacia métricas cuantitativas imperfectas—como la aprobación o interacción de usuarios—que pueden desalinearlas de objetivos humanos claros. En su visión, la verdadera cuestión es la alineación de los modelos con fines humanos y la necesidad de revisar criterios y controles antes de continuar acelerando la carrera.