El jefe de OpenAI, Sam Altman, afirmó que las preocupaciones a nivel global sobre la inteligencia artificial tienen sustento y que la industria debe responder en consonancia con la magnitud del desafío. Sus comentarios llegaron el martes, durante la conferencia Dreamforce, organizada por Salesforce en San Francisco, en un marco de intenso debate entre líderes del sector sobre los riesgos existenciales que podría implicar la tecnología para la humanidad.

“El mundo debe confiar en que vamos a hacer lo correcto porque es lo correcto y porque somos conscientes de la magnitud de todo esto”, comentó Altman ante los asistentes, en un intento por reiterar la responsabilidad que, a su juicio, corresponde a las firmas tecnológicas. A lo largo de su discurso, dejó en claro que la amenaza ya no es una cuestión meramente especulativa: “ya no hace falta tanta imaginación para ver cómo esto podría salir mal”, apuntó, señalando que los escenarios negativos se han vuelto más concretos.

Concluyó su intervención destacando su postura ante el temor generalizado: “creo que el mundo tiene razón en temer”, una afirmación que buscó contextualizar dentro de un encuentro donde distintas voces del rubro ofrecieron visiones distintas sobre cómo enfrentar los riesgos.

En la misma feria, Dario Amodei, de Anthropic, generó la polémica con su petición de desacelerar el desarrollo de los modelos de IA. Aunque su participación fue breve, sostuvo de forma firme su postura inicial: el riesgo asociado a estos sistemas es sustancial y las compañías deben actuar como referente, sirviendo de ejemplo para la industria al trabajar hacia mejoras continuas.

Jensen Huang, presidente ejecutivo de Nvidia, mostró una postura más escéptica respecto de la necesidad de implementar nuevas normas para el sector. Consideró que el mercado no requiere marcos legales adicionales y afirmó que la velocidad de desarrollo no es incompatible con la seguridad. “Se pueden tener las dos cosas a la vez”, afirmó, al hacer hincapié en combinar agilidad con medidas de seguridad en el lanzamiento de nuevos productos.

Huang instó a las empresas a avanzar con determinación, pero dejó claro que, si en algún momento la trayectoria parece fuera de control o el producto no garantiza seguridad, hay que detenerse y hacerlo bien. En su visión, la seguridad debe ser tratada como un componente técnico central del desarrollo de software, una pieza prioritaria que acompaña al impulso innovador y que no puede quedar relegada.

El diálogo entre Altman, Amodei y Huang iluminó la tensión entre empujar el progreso y contener sus riesgos, subrayando la necesidad de equilibrar rapidez y salvaguardas para evitar un descontrol que complique el futuro de la IA.