La governança de l'IA s'està convertint en una responsabilitat bàsica de la gestió bancària

La IA ha passat de l'experimentació a l'estratègia bancària

La intel·ligència artificial s'ha convertit en una qüestió estratègica principal per als bancs en lloc d'un experiment tecnològic especialitzat. Les institucions utilitzen la IA per a la detecció de fraus, l'atenció al client, el màrqueting, l'anàlisi de riscos, la ciberseguretat i la productivitat interna. L'oportunitat és substancial perquè la banca és inherentment intensiva en informació, però les conseqüències d'una implementació deficient també poden ser significatives. Una recomanació de màrqueting feble pot malbaratar pressupost; un model de crèdit o frau poc fiable pot afectar els clients, generar pèrdues financeres o exposar el banc a riscos normatius i de reputació.

És per això que els supervisors bancaris tracten cada cop més el govern de la IA com a part de la responsabilitat ordinària de la gestió. La qüestió rellevant no és si un banc té un document d'estratègia d'IA, sinó si pot explicar on s'utilitza la IA, qui és el propietari de cada sistema, de quines dades es basa, com es controla el rendiment i com es manté la supervisió humana.

Propietat, finalitat i govern de les dades

El primer requisit de govern és la propietat clara. Els equips tecnològics poden construir o configurar un sistema, però la funció empresarial que l'utilitza ha d'entendre i acceptar la responsabilitat del procés. Les funcions de risc, compliment, legals i de seguretat de la informació poden oferir desafiaments i controls, però la responsabilitat no s'ha de distribuir de manera que ningú pugui explicar qui és el responsable del resultat.

El segon requisit és un propòsit definit. Un model dissenyat per prioritzar les alertes de frau té un perfil de risc diferent d'un sistema que influeix en les condicions del crèdit o ofereix assessorament al client. Els bancs haurien de documentar què pretén fer el sistema, quines decisions pot influir i què explícitament no està permès fer. Això ajuda a alinear la validació, els controls i la supervisió amb l'impacte potencial de la fallada.

El govern de les dades és igual d'important. El rendiment de la IA depèn de la qualitat, la rellevància i la legalitat de la informació utilitzada. Els bancs han d'entendre el llinatge de dades, el biaix, l'accés i la seguretat. Un model tècnicament sofisticat no pot compensar les dades pobres, i un model entrenat en patrons històrics pot reproduir resultats no desitjats si aquests patrons no s'examinen de manera crítica.

Explicació, seguiment i supervisió humana

No tots els sistemes d'IA han de ser interpretables al mateix nivell, però els bancs necessiten prou transparència per gestionar decisions importants. Quan un model afecta els clients o el risc material, la direcció hauria de ser capaç d'explicar els factors que influeixen en la sortida i el procés mitjançant el qual es revisa la decisió. Com més conseqüent sigui l'ús, més fort serà el requisit de validació i documentació.

El seguiment també hauria de ser continu. El rendiment del model pot canviar a mesura que evolucionen el comportament dels clients, les condicions econòmiques i els patrons de frau. Un enfocament que va funcionar bé durant un període pot degradar-se més tard. Per tant, els bancs haurien d'establir indicadors de rendiment, llindars d'escalada i revisió periòdica en lloc de tractar la validació inicial com a suficient per a la vida del sistema.

La supervisió humana ha de ser proporcionada al cas d'ús. Una eina d'IA generativa que resumeixi documents interns pot justificar un control més lleuger que un model utilitzat en l'avaluació creditícia. L'objectiu no és mantenir l'aprovació manual a tot arreu, sinó assegurar-se que s'entenen les conseqüències d'un error automatitzat i que els humans conserven una autoritat significativa quan sigui necessari.

Risc de tercers i de concentració

Molts bancs utilitzaran plataformes d'IA externes en lloc de desenvolupar tots els models internament. Això crea dependència dels proveïdors de núvol, venedors de models i altres proveïdors de tecnologia. Per tant, el risc de tercers passa a formar part del govern de la IA. Les institucions han d'entendre on es processen les dades, com s'actualitzen els models, què passa si un servei no està disponible i si el banc pot canviar de proveïdor sense interrupcions inacceptables.

El risc de concentració mereix una atenció especial. Si molts bancs depenen del mateix proveïdor d'infraestructura subjacent o model, un sol fracàs pot afectar diverses institucions simultàniament. DORA i el treball de supervisió més ampli sobre la resiliència operativa reforcen la importància de mapejar aquestes dependències i garantir que l'externalització no es tradueixi en l'externalització de la responsabilitat.

Shadow AI crea una forma diferent d'exposició de tercers. Els empleats poden utilitzar sistemes públics perquè són convenients fins i tot quan aquestes eines no han estat aprovades. La prohibició general fracassa sovint si el personal veu beneficis de productivitat evidents, de manera que les institucions necessiten polítiques pràctiques i alternatives aprovades. Per tant, la formació forma part del marc de govern.

Responsabilitats de la junta i de la direcció

La IA no s'ha de tractar com un tema purament tècnic a nivell de la junta. Afecta l'estratègia, la conducta, la resiliència operativa, el govern de les dades i la reputació. Els directors no han de convertir-se en especialistes en aprenentatge automàtic, però haurien de poder fer preguntes informades. Quin valor comercial s'espera? Què podria sortir malament? Com es veuen afectats els clients? Qui valida el sistema? Quina és la alternativa si el proveïdor o el model falla? Aquestes són preguntes de govern en lloc de preguntes de codificació.

Un marc madur també hauria de distingir entre nivells de risc. Les eines de productivitat interna de baix impacte poden seguir un procés d'aprovació simplificat, mentre que els sistemes orientats al client o que influeixen en les decisions requereixen una revisió més rigorosa. Aquesta proporcionalitat evita que la governança esdevingui tan pesada que es desaconsella l'experimentació útil de baix risc.

Conclusió

La governança de la IA s'hauria d'integrar als marcs bancaris existents per al risc de model, governança de dades, subcontractació, seguretat de la informació i risc operacional. La creació d'un univers de govern completament separat pot introduir llacunes i duplicacions. El Acadèmia de Banca eBSI tracta l'alfabetització de la intel·ligència artificial com a part de la competència professional moderna perquè el personal bancari treballa cada cop més al costat de sistemes intel·ligents, tant si els desenvolupa ells mateixos com si no.

Les institucions que obtenen valor sostenible de la IA seran les que desenvolupen conjuntament tecnologia, governança i habilitats. La intel·ligència sense govern no és una estratègia bancària; és una font de risc no gestionada.

Un model de govern pràctic hauria d'incloure el cicle de vida complet del sistema

El govern s'ha d'estendre més enllà de l'aprovació al començament d'un projecte d'IA. Els bancs necessiten processos de gestió del canvi, validació periòdica, escalada d'incidències i eventual jubilació. Un model pot romandre tècnicament funcional mentre esdevé inadequat perquè el comportament del client canvia, les dades subjacents es deterioren o es disposa d'un enfocament superior. La governança del cicle de vida garanteix que els sistemes no es quedin en producció simplement perquè una vegada van funcionar bé.

Un registre d'IA pot proporcionar una base útil. Hauria d'identificar el propietari de l'empresa, la finalitat, les dades implicades, el proveïdor, l'impacte del client, la classificació de riscos i la freqüència de revisió de cada sistema significatiu. Això crea visibilitat per a la gestió i ajuda a connectar la governança de l'IA amb els marcs existents de risc de model, subcontractació i resiliència operativa. El registre no és valuós perquè crea un altre inventari; és valuós perquè ofereix a la institució una manera coherent d'entendre on la IA influeix en les decisions empresarials i on es pot requerir atenció supervisora.