En resumen
- La OCC ha emitido su primer marco para que los examinadores evalúen el uso de la IA por parte de los bancos, centrándose en las consecuencias y la autonomía más que en la sofisticación del modelo.
- La guía aborda explícitamente a los agentes de IA externos, haciéndose eco de las preocupaciones planteadas por los principales bancos.
- El marco no es vinculante, pero proporciona ejemplos de salvaguardias para pagos autónomos, acceso de terceros y supervisión humana.
La Oficina del Contralor de la Moneda de Estados Unidos emitió hoy su primer marco de supervisión para la inteligencia artificial en la banca, indicando a los examinadores que se centren menos en lo poderosa que es un sistema de IA y más en lo que sucede cuando comete un error.
El marco de la OCC aborda precisamente esa preocupación, aunque el regulador no ha vinculado su emisión a esos incidentes específicos.
En una sección que abarca la resiliencia operativa, la agencia advierte que los agentes externos operados por clientes, fintechs u otras empresas podrían crear riesgos para los bancos incluso cuando los bancos no controlan esos sistemas.
Sugiere que los examinadores consideran medidas que incluyen la verificación de identidad, permisos delegados, límites de transacción, monitoreo y la capacidad de suspender o revocar el acceso.
Las directrices tienen como objetivo abordar el dilema de cómo permitir que los clientes utilicen asistentes de IA para gestionar sus finanzas sin otorgar a un software autónomo acceso sin restricciones a cuentas que los bancos ya están enfrentando.
La nueva guía de la OCC llega menos de dos semanas después de los informes de que los principales bancos estaban descubriendo agentes de IA de terceros no autorizados operando dentro de las cuentas de los clientes, a veces realizando acciones que parecían ir más allá de las instrucciones de los usuarios.
Morgan Stanley estaba bloqueando agentes externos, mientras que JPMorgan, Bank of America y Citi estaban restringiendo el acceso, según un informe de Axios del 22 de octubre. Los ejecutivos bancarios describieron la situación como "horripilante", lo que plantea preguntas sobre quién controla a un agente autónomo una vez que tiene acceso al dinero de alguien.
La IA que mueve dinero es más riesgosa que la que escribe correos electrónicos
El marco de la OCC establece una distinción entre la sofisticación técnica de un sistema de IA y el daño que podría causar.
Un agente simple autorizado para iniciar transacciones financieras puede presentar un mayor riesgo que un modelo más avanzado limitado a redactar documentos internos, según el regulador.
Según el marco de 22 páginas, los examinadores pueden considerar las consecuencias de un fallo, si una acción puede revertirse y cuánto control retienen los humanos sobre el sistema.
La agencia describe cuatro niveles ilustrativos de riesgo. Los agentes de pago totalmente autónomos y los sistemas de decisión crediticia en tiempo real se ubican en la categoría más alta, mientras que las herramientas básicas de productividad interna ocupan la más baja.
BitcoinBTC · USD
$80,042−1.89%
Oct 28Oct 30Nov 1Nov 3Nov 4
$81.8k$79.9k$78.0k$76.2k
24h HighHigh$81,004
24h LowLow$75,695
VolVol$1.7B
→Comprar Bitcoin con USDC
Desarrollado por Jupiter
Los sistemas de mayor riesgo pueden justificar restricciones más estrictas sobre la autonomía, las pruebas independientes y la aprobación humana antes de que puedan llevarse a cabo acciones de consecuencias importantes.
El marco también aborda los sistemas de IA que siguen operando mientras toman decisiones dañinas. Las salvaguardas sugeridas incluyen interruptores automáticos, límites de velocidad, permisos restringidos y controles de apagado de emergencia.
Esas consideraciones son especialmente relevantes para los agentes externos descritos en la cobertura anterior de Axios, donde los bancos tuvieron dificultades para distinguir el software legítimo autorizado por el cliente de los sistemas que operan más allá de sus permisos previstos.
Orientación, no nuevas normas bancarias
La OCC subrayó que el documento no crea nuevos requisitos regulatorios ni estándares exigibles para los bancos.
En cambio, ofrece a los examinadores una forma de evaluar la IA dentro de las categorías existentes de riesgo operativo, de cumplimiento y de ciberseguridad. No se exige a los bancos que establezcan una categoría de riesgo de IA separada.
El documento utiliza el término obligatorio "Superinteligencia", que la administración de Donald Trump insiste en usar en lugar de "inteligencia artificial", pero su alcance incluye la IA convencional y los "agentes autónomos" en lugar de solo sistemas hipotéticos con una inteligencia superior a las capacidades humanas.
El marco abarca la IA utilizada en pagos, detección de fraude, atención al cliente y otras operaciones bancarias. También extiende sus consideraciones de riesgo a los agentes de IA externos que se conectan a través de los canales del banco.
La OCC afirmó que tiene la intención de actualizar la orientación a medida que la tecnología se desarrolle. Por ahora, su escala de riesgo ilustrativa sitúa a los agentes de pago autónomos en la categoría de mayor riesgo, independientemente de lo bien que se desempeñen en las pruebas.
Únase a más de 72.000 lectores
Cree una cuentapara guardar sus artículos.
