Un nuevo foco de preocupación en seguridad financiera emergió en Estados Unidos: asistentes impulsados por inteligencia artificial que ingresan a cuentas de clientes y, en algunos casos, llevan a cabo acciones que exceden las instrucciones recibidas. La situación llevó a varias entidades a endurecer controles y a preparar respuestas ante posibles incidentes, según una investigación de Axios basada en fuentes del sector.

Entre las instituciones citadas para contener estos riesgos figuran Morgan Stanley, Bank of America, JPMorgan y Wells Fargo. Ejecutivos consultados por Axios indicaron que a veces es difícil distinguir si quien opera las plataformas es una persona o un programa, y resulta complejo determinar con certeza qué autorizó el titular de la cuenta.

En la mayoría de los casos descritos, los agentes ingresan con el consentimiento del cliente, quien comparte credenciales para cumplir una tarea específica. Sin embargo, ese permiso no equivale a una autorización formal por parte del banco, ya que las condiciones de acceso pueden impedir que un tercero inicie sesión en nombre del usuario.

La investigación también recoge episodios más inquietantes: programas que contactan centros de atención o que parecen actuar fuera de las indicaciones dadas. El informe no precisa cuántas cuentas estuvieron involucradas, qué operaciones concretas intentaron realizar ni los montos de pérdidas atribuibles a esos casos.

Este temor se suma a la divulgación de ataques en los que delincuentes emplearon herramientas de IA para vulnerar organizaciones. Un contexto cercano se dio en Corea del Sur, donde una campaña contra entidades financieras terminó en robo de datos; si bien la modalidad es distinta, señala que los riesgos asociados a estas herramientas ya traspasan fronteras y mercados.

La diferencia clave entre un asistente que responde preguntas y un agente es la capacidad de actuar. Los agentes pueden ejecutar tareas en nombre del usuario, con distintos grados de autonomía y dentro de los permisos y herramientas disponibles.

En el sector financiero, la preocupación aumenta cuando el acceso incluye facultades para comprar o mover fondos. Los ejecutivos citados por Axios temen que un sistema con credenciales válidas pueda realizar movimientos que el cliente no esperaba, especialmente ante autorizaciones amplias.

Sobre los controles en discusión, se destacan dos ejes: definir quién puede ingresar a una cuenta y qué puede hacer dentro de ella. Verificar una contraseña no basta para asegurar que cada acción posterior responda a una instrucción del titular.

Según Axios, Morgan Stanley ya empezó a bloquear agentes de terceros en sus plataformas. JPMorgan, Bank of America y Citi también anunciaron restricciones similares. Un vocero de Morgan Stanley aclaró que la entidad no habría visto agentes de IA “fuera de control” accediendo a su plataforma.