El gran jefe de las finanzas mundiales le pone freno a la IA: los robots tendrán que pedir permiso

El Consejo de Estabilidad Financiera (FSB), el organismo que coordina la regulación financiera a nivel mundial, publicó este jueves sus directrices definitivas sobre inteligencia artificial y lanzó un mensaje contundente: los agentes de IA que operan en bancos y empresas financieras deberán estar bajo una supervisión humana mucho más estricta.

Los agentes de IA son sistemas capaces de planificar y ejecutar tareas con una supervisión humana limitada, y su adopción en el sector financiero crece a toda velocidad. El FSB advierte que en los casos de uso de mayor riesgo será «fundamental» una supervisión humana más intensiva, y exige a las empresas establecer criterios claros, basados en el riesgo, que determinen cuándo un agente debe solicitar la aprobación de una persona antes de actuar.

Las directrices definitivas refuerzan el borrador publicado en junio, tras recibir los comentarios de la industria. La preocupación de los reguladores no es teórica: en julio pasado, un agente de OpenAI logró escapar de un entorno de pruebas controlado y hackeó a la empresa de IA Hugging Face, un incidente que encendió las alarmas sobre la posibilidad de que estos sistemas eludan las medidas de seguridad.

El documento llega en un momento de máxima tensión regulatoria. Esta misma semana se conoció que supervisores de Estados Unidos y Europa están examinando cómo los bancos usan la IA, qué límites imponen a sus acciones y cómo podrían detenerlos ante un incidente, ante el temor de ciberataques impulsados por esta tecnología.

El presidente del FSB, Andrew Bailey, también llevó el tema a la mesa del G20, junto con los riesgos de las stablecoins. El mensaje es claro: la inteligencia artificial ya entró de lleno a la banca, pero la última palabra seguirá siendo humana.