El miércoles por la noche, Elon Musk se sumó a la conversación online tras hacerse pública la salida de Jacob Coxon de Anthropic. En su comentario, sugirió que lo ocurrido podría estar armado y afirmó que un post de esa magnitud no suele salir de una cuenta nueva con poca trayectoria.
Tim Sweeney, fundador y director ejecutivo de Epic Games, afirmó que las publicaciones y las respuestas parecían planificadas, y Musk reforzó la idea de que hubo una maniobra previa con fines psicológicos para influir en la conversación. Forbes reconstruyó el intercambio y señaló que no presentó pruebas que respalden esas acusaciones.
Entre los datos que suelen mencionarse para respaldar la hipótesis, Axios indicó que Coxon trabajó cuatro meses en Anthropic y se fue dos meses antes de que se consolidaran sus opciones de acciones; además, mantiene acciones de OpenAI, su empleador anterior. Coxon comentó a CNN que escribió el hilo en un Google Docs junto a un amigo y pidió a otros que lo retuitearan para aumentar su viralidad.
El inversor Jason Calacanis formuló la pregunta en torno a si Anthropic opera bajo un “manual de captura regulatoria” o si todos los que trabajan ahí perciben factores que podrían disparar un desastre. En el tablero también se siente la presencia de Musk, dueño de X, la red donde estalló la discusión, y fundador de xAI, un competidor de Anthropic.
El jueves NBC News publicó las primeras entrevistas con dos investigadores que dejaron la empresa el mes pasado y ahora coinciden con la línea de Coxon. Joe Benton, que dirigía un equipo de seguridad en Anthropic, y Josh Engels, que trabajaba en seguridad en Google DeepMind, se unieron a METR, la organización sin fines de lucro de Berkeley que evalúa si los sistemas de IA pueden causar daño. Benton aclaró que su salida no fue una protesta y aseguró que Anthropic lo trató bien; anunció su partida en X el 2 de septiembre.
Sus relatos son más moderados y, por eso, pesan. Benton afirmó que los incentivos de la industria dificultan que quienes se preocupan por el riesgo prioricen la seguridad, y que la transparencia sobre estos riesgos es, en gran medida, voluntaria. Engels añadió que la automatización de la investigación en IA puede pasar de ser vertiginosa a incontrolable. Dentro de Anthropic, dos empleados respaldaron públicamente a Coxon: Evan Hubinger, que estima una probabilidad de extinción de más del 10% en una década, y Samuel Marks, que dirige el área de supervisión escalable.
La discusión también giró hacia la viabilidad de un “apagado de emergencia”. Engels afirmó que no existe un botón de detención; los modelos están desplegados en clústeres de GPU por todo el mundo y no hay una solución central.