Gobernanza de la IA Agéntica: Un Imperativo Estratégico para la Competitividad de EE.UU.

El auge de la inteligencia artificial (IA) agéntica —sistemas que pueden operar de forma autónoma con mínima supervisión humana— presenta tanto oportunidades como desafíos para la seguridad nacional y la competitividad económica, según expertos del Special Competitive Studies Project (SCSP), una iniciativa sin fines de lucro y no partidista centrada en fortalecer la competitividad a largo plazo de Estados Unidos en IA.

A diferencia de los sistemas actuales de IA que generan respuestas basadas en indicaciones, la IA agéntica puede establecer objetivos de forma independiente, crear planes y ejecutar tareas de múltiples pasos. Como señaló Ylli Bajraktari, presidente de SCSP, en un boletín reciente: “La IA está comenzando a ayudar a construir mejor IA”, lo que potencialmente crea un bucle de autoaceleración donde la mejora de las capacidades de IA se acumula rápidamente, superando con creces las proyecciones actuales.

Esta aceleración tiene implicaciones significativas para la seguridad global. Bajraktari advirtió que “un agente que pueda navegar sistemas burocráticos complejos, identificar vulnerabilidades explotables y actuar sin dejar un rastro claro de atribución representa una expansión cualitativa de la capacidad adversarial”. Estados Unidos debe reconocer que los adversarios desplegarán sistemas de IA agéntica en áreas donde la gobernanza es más débil, utilizándolos para coerción, espionaje e influencia.

Sin embargo, la gobernanza efectiva de la IA agéntica no se centra únicamente en el modelo de IA en sí. Los expertos de SCSP explican que la clave reside en el “andamiaje” construido alrededor del modelo. Este andamiaje incluye conectores para vincular el modelo con infraestructura del mundo real, como correo electrónico, sistemas de reservas y plataformas financieras; memoria que permite al sistema aprender y adaptarse con el tiempo; capacidades de planificación que dividen grandes objetivos en tareas más pequeñas y sortean obstáculos; estructuras de permisos que definen el acceso del sistema; y salvaguardas que determinan lo que el sistema se negará a hacer, como límites de gasto o autorizaciones humanas.

La rendición de cuentas sigue siendo un desafío importante. Los marcos de gobernanza actuales son insuficientes en tres aspectos: la responsabilidad es imposible de rastrear cuando la IA actúa de forma autónoma; los marcos existentes solo evalúan si se completó una tarea, no si se realizó de manera segura o causó daño; y la IA agéntica construye perfiles personales que pueden incluir datos sensibles al acumular patrones de comportamiento, preferencias e inferencias.

A pesar de estos desafíos, SCSP enfatiza que la IA agéntica no es una tecnología que deba temerse o posponerse. Las instituciones que prioricen comprender, moldear y gobernar la IA agéntica no solo determinarán su propia posición competitiva, sino que también darán forma al entorno global en el que opera. Para más información, visite scsp.ai.