Las empresas líderes en inteligencia artificial siguen impulsando sistemas cada vez más capaces y autónomos, pero dentro de los laboratorios crecen las preocupaciones sobre los riesgos que implica ese avance. Un grupo de investigadores que formó parte de esta carrera empezó a cuestionar su ritmo y, en algunos casos, advirtió que las herramientas actuales no garantizan un control efectivo sobre las versiones futuras.
El tema volvió a ganar atención tras la salida de Jacob Coxon, de 27 años, que trabajó en OpenAI y luego en Anthropic. Coxon dejó esa empresa y planteó dudas sobre la competencia entre los laboratorios para alcanzar sistemas de IA general cada vez más avanzados, sin certezas sobre cómo contener sus potenciales efectos.
En una entrevista con Infobae a la Tarde, la periodista especializada en IA, Delfina Arambillet, explicó que Coxon estaba involucrado en la etapa de preentrenamiento, la fase inicial en la que los modelos aprenden a partir de grandes volúmenes de datos.
La discusión cobró mayor relevancia cuando Evan Hubinger, investigador de Anthropic centrado en alignment, respaldó parcialmente esa visión. Hubinger, cuyo trabajo se conecta con la identificación de fallas y conductas peligrosas en los modelos, señaló que existe más de un 10% de probabilidad de que la IA provoque la muerte de la humanidad en la próxima década. Este porcentaje alude a riesgos asociados al desarrollo de sistemas mucho más avanzados, no al comportamiento de las IA que hoy usan los usuarios.
Samuel Marks, otro experto en seguridad de Anthropic, afirmó que las técnicas actuales permiten orientar la conducta de los sistemas, pero aún no garantizan un control total. Entre las alternativas que se evalúan figura usar futuras inteligencias para supervisar a modelos posteriores, ante la dificultad de que los humanos ejerzan control directo sobre sistemas cada vez más complejos.
La preocupación está ligada, entre otras cuestiones, al concepto de autoperfeccionamiento recursivo: la posibilidad de que una IA participe en la mejora de sus propias capacidades. Arambillet aclaró que el temor no es que los modelos actuales decidan atacar a las personas de forma repentina, sino que las futuras versiones adquieran capacidades que dificulten su supervisión y control. Además, estos sistemas presentan comportamientos no siempre determinísticos, por lo que una misma situación puede generar respuestas distintas, complicando las previsiones.
Los laboratorios ya exploran distintos escenarios vinculados a esos riesgos. Entre ellos figuran los ciberataques autónomos, en los que un sistema podría detectar vulnerabilidades, ingresar a redes y comprometer infraestructuras críticas.