La FCA avisa: la IA en la banca es como una carrera armamentística y alguien va a salir escaldado

Oye, colega, ¿te acuerdas de cuando lo más moderno en finanzas era pagar con el móvil? Pues eso ya es prehistoria. Ahora resulta que la Inteligencia Artificial se está colando en todo lo que toca el dinero, desde pedir un préstamo hasta planificar la jubilación. Y el regulador financiero británico, la FCA, ha soltado un aviso que no tiene desperdicio: estamos en una 'carrera armamentística' para intentar controlar esto.

Te pongo en contexto. Un tío que se llama Nikhil Rathi, que es el jefazo de la FCA, ha dicho que necesitan más poder, y rápido. Porque resulta que millones de personas ya están usando herramientas de IA, como ChatGPT o asistentes financieros automáticos, para tomar decisiones sobre su dinero. Y claro, el problema gordo es: ¿cuándo un chatbot deja de ser un simple programa y se convierte en un asesor financiero? Porque si te recomienda una hipoteca o una inversión y te sale rana, ¿de quién es el muerto? ¿Del banco? ¿Del que programó la IA? ¿O del pobre que le hizo caso?

Rathi lo explica fino: 'Que un modelo de chat pueda mantener una conversación y responder a preguntas, ¿eso es una recomendación o solo información?'. Y tiene razón, porque la línea es muy fina. Pero no todo es malo. El mismo tío reconoce que la IA puede ser la hostia para democratizar las finanzas. O sea, que un currito que gana 20.000 libras al año pueda tener acceso al mismo asesoramiento que antes solo tenían los que tenían 10 millones en el banco. Eso molaría, ¿no? Pues sí, pero hay que tener cuidado con no soltar la mano del mono.

El informe que ha soltado la FCA propone crear un servicio público-privado de 'capacidad financiera con IA' para dar información y guía gratis a la peña. Pero ojo, porque ya hay empresas financieras probando agentes de IA que pueden hacer transacciones automáticas por ti. Y aquí viene lo gordo: el que se va de la FCA después de ocho años, un tal Mills, dice que los directivos tienen que seguir siendo responsables de lo que hacen sus modelos de IA. Vamos, que no vale echarle la culpa al algoritmo. 'Necesitas a un humano que responda por lo que hace', suelta Mills. Y tiene toda la razón del mundo.

Pero el pastel no acaba ahí. La IA también va a 'amplificar' el riesgo de fraudes y ciberataques. Deepfakes, identidades sintéticas, ingeniería social personalizada... vamos, que los delincuentes van a tener herramientas de la leche. Por eso el informe pide que la FCA tenga más poder para supervisar a los proveedores tecnológicos clave, como OpenAI, Google, Amazon o Microsoft. Porque si la IA se va de madre en un banco, el problema no es solo del banco, sino de la empresa que puso la tecnología.

El gobierno británico aún no ha decidido a qué grandes tecnológicas va a meter en el régimen de 'terceros críticos', pero la FCA quiere poder exigirles autoevaluaciones anuales y pruebas de resistencia. Vamos, que si un servidor de Amazon se cae y deja a medio país sin poder pagar, que tengan que explicarlo. En resumen, la IA en las finanzas es como un coche sin frenos: puede llevarte muy lejos, pero si no lo controlas, te estampas. Y la FCA está pidiendo el volante.

Segun ha adelantado el medio ArsTechnica AI.