Satya Nadella, máximo ejecutivo de Microsoft, dejó claro que el camino hacia la inteligencia artificial de próxima generación debe regirse por una premisa central: si una IA no ayuda a la humanidad y no queda bajo control humano, no vale la pena continuar su desarrollo. Sus comentarios fueron difundidos a través de su cuenta en la red social X y no se limitan a una advertencia general, sino que delinean una hoja de ruta sobre cómo debería distribuirse el poder tecnológico, qué rol deben cumplir las empresas frente a los proveedores de modelos y qué mecanismos de supervisión son indispensables para evitar que sistemas cada vez más potentes se desadministren.
El mensaje de Nadella se sostiene en el diseño de un principio operativo: toda innovación en IA debe estar subordinada al control humano. En sus palabras, “si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla”. Esta formulación busca que la gobernanza sea parte del proceso de desarrollo, no una meta remota.
El directorio de Microsoft sitúa estas ideas en un marco de gobernanza más amplio, vinculado a críticas habituales sobre avances acelerados sin marcos regulatorios claros. Nadella respaldó explícitamente la investigación orientada a lograr una alineación adecuada entre objetivos humanos y el comportamiento de estos sistemas, calificándola como una necesidad que requiere ritmo deliberado, no apresuramiento.
Entre las propuestas que citó figuran los “evaluadores integrados”, mecanismos destinados a convertir principios de seguridad en garantías técnicas verificables, en lugar de permanecer en promesas. Para el directivo, tales herramientas deben operar como garantías funcionales, con respaldo práctico y no solo teórico.
En paralelo, planteó la necesidad de distribuir de manera más amplia los beneficios de la IA, para que lleguen a distintos países, comunidades y empresas, evitando una concentración en unos pocos actores. Para lograrlo, defendió un ecosistema de vanguardia que permita la coexistencia de modelos de código cerrado y de código abierto, ampliando las opciones para quienes desarrollan e implementan soluciones.
Por último, Nadella subrayó que nadie, por más poderoso que sea, debería controlar de forma exclusiva este proceso. Abogó por una gobernanza inclusiva que integre a distintos países, disciplinas y la academia, como condición para que el control y la supervisión sean efectivos y representativos.