Satya Nadella, al frente de Microsoft, planteó un límite práctico para el desarrollo de la inteligencia artificial de alta capacidad. En su cuenta de X, el ejecutivo dejó en claro que todo avance hacia lo que muchos llaman superinteligencia debe nacer de una premisa irrefutable: si la IA que se construye no aporta a la humanidad y no está bajo control humano, no tiene sentido seguir persiguiéndola.
La declaración no se reduce a una advertencia general. El ejecutivo presentó una hoja de ruta concreta sobre cómo debería distribuirse el poder tecnológico, qué rol deben desempeñar las empresas frente a los proveedores de modelos y qué mecanismos de vigilancia son imprescindibles para evitar que sistemas cada vez más potentes escapen a la supervisión.
El eje central de su mensaje es la subordinación de cualquier progreso en IA al control humano. Nadella fue explícito al afirmar que “la IA que construimos debe beneficiar a la humanidad y permanecer bajo control humano; si no, no vale la pena perseguirla”.
Esta idea funciona como un principio de diseño, más que como una aspiración. Lo describe como el punto de partida obligatorio para cualquier iniciativa relacionada con la superinteligencia, entendida como el salto tecnológico siguiente a los modelos actuales de IA.
El planteamiento también dialoga con las críticas habituales al desarrollo acelerado sin marcos de gobernanza. Nadella respaldó la investigación orientada a lograr una alineación adecuada entre los objetivos humanos y el comportamiento de estos sistemas, calificándola como una necesidad que requiere un ritmo deliberado, no apresurado.
Entre las propuestas concretas, mencionó los llamados “evaluadores integrados”, herramientas pensadas para verificar que los principios de seguridad no queden solo en palabras. Según su visión, estos mecanismos deben convertirse en garantías funcionales, no en promesas sin respaldo técnico.
Sobre la distribución de beneficios, el directivo señaló que es imprescindible acelerar y ampliar sus beneficios para que lleguen a diferentes países, comunidades y empresas, evitando la concentración en un puñado de actores.
Para facilitar esa distribución, Nadella abogó por un ecosistema de vanguardia en el que coexistan tanto modelos de código cerrado como de código abierto. Esta convivencia, afirmó, ampliaría las opciones para quienes desarrollan e implementan soluciones de IA.
El ejecutivo destacó que ningún grupo reducido puede controlar el proceso por sí solo. Exigió una representación amplia que incluya distintos países, campos de conocimiento y la academia, como condición para una gobernanza efectiva de la IA.