Implementar IA no tanca el projecte, n'obre un altre

Hi ha una idea molt estesa i equivocada sobre els projectes d’IA: que s’acaben quan l’eina es posa en marxa. Es fa el diagnòstic, s’implementa, funciona les primeres setmanes i es dona el projecte per tancat. Aquesta idea és la que, mesos després, provoca errors que ningú no veu venir fins que ja han costat diners o la confiança d’un client.

L’error que no fa soroll

Els sistemes d’IA es degraden amb el temps, encara que ningú no els hagi tocat. El fenomen té un nom tècnic: deriva del model, o «model drift». Passa quan les dades amb què opera el sistema en producció comencen a diferir de les dades amb què es va entrenar o configurar originalment. La precisió d’un model pot empitjorar al cap de pocs dies del desplegament, precisament perquè les dades de producció s’allunyen a poc a poc de les d’entrenament.

El més perillós d’aquest fenomen és que és silenciós. Un sistema amb deriva no deixa de funcionar de cop ni activa cap alarma visible. Continua responent amb la mateixa fluïdesa de sempre, però cada cop està més desconnectat de la realitat que hauria d’atendre. Una anàlisi recent sobre monitoratge en entorns regulats ho resumeix amb precisió: el sistema pot semblar estable mentre augmenten les pèrdues o les excepcions. És el pitjor tipus d’error possible, perquè no es detecta fins que ja ha fet mal.

Per què és diferent d’una fallada de programari convencional

Un programa informàtic convencional falla quan hi ha un error al codi, i aquest error acostuma a ser reproduïble: es dona sempre en les mateixes condicions. Un sistema d’IA pot fallar sense cap error de programació, senzillament perquè el món que l’envolta ha canviat. Nous tipus de consultes dels clients, un canvi estacional en el volum de sol·licituds, una actualització del catàleg de productes o una normativa nova: qualsevol d’aquests canvis pot fer que un sistema que funcionava bé comenci a fallar en silenci, sense que el codi tingui cap problema.

Una guia sobre què passa després de desplegar un model d’IA fa una distinció que convé recordar: el desplegament és un fet puntual; el manteniment, un compromís operatiu continu. Les organitzacions que tracten totes dues coses com si fossin el mateix subestimen sistemàticament els recursos necessaris perquè un sistema d’IA continuï funcionant bé amb el temps.

Les xifres parlen de pèrdues reals, no hipotètiques

Les dades del sector confirmen que no és un risc teòric. Una anàlisi del 2025 va estimar en 67.400 milions de dòlars les pèrdues empresarials atribuïbles a al·lucinacions dels models d’IA en un sol any. Una al·lucinació no és una fallada binària ni un accident aïllat: és una propietat estadística d’aquests sistemes que cal mesurar contínuament amb el trànsit real de producció, no avaluar una sola vegada abans de llançar el projecte.

El problema s’agreuja en tasques pròpies d’un sector: un model que obté molt bons resultats en avaluacions generals pot al·lucinar en més de la meitat de les respostes a preguntes molt específiques d’un àmbit si el sistema que li proporciona el context no està prou actualitzat o ben construït.

Per què el ritme dels canvis ho fa més urgent

A la degradació natural de qualsevol sistema s’hi afegeix un segon factor: la velocitat a què canvia la tecnologia mateixa. Els models que hi havia fa un any ja no són els més adequats per a moltes tasques; les normatives que en regulen l’ús entraran en vigor per fases durant el 2026 i el 2027, i les millors pràctiques de seguretat i governança s’actualitzen constantment. Un sistema ben configurat quan es va llançar pot quedar desalineat amb la normativa vigent, amb les capacitats disponibles al mercat o amb les expectatives dels clients, simplement perquè ha passat el temps.

Els marcs de governança que comencen a exigir els organismes reguladors ja consideren la supervisió posterior al desplegament un requisit, no pas una opció, i demanen una avaluació contínua i un control dels canvis.

Què vol dir això a la pràctica

Un projecte d’IA ben plantejat no s’acaba quan es posa en marxa. Des del principi, ha d’incloure com es revisarà el seu funcionament periòdicament, qui s’encarregarà de detectar quan alguna cosa comenci a fallar en silenci i cada quant es comprovarà si el sistema continua alineat amb la realitat del negoci, la normativa vigent i la millor tecnologia disponible. Sense aquest seguiment, la implementació inicial no tanca un risc: només n’obre un altre que triga mesos a fer-se visible.

Fonts

Automatitza amb un procés clar.

Automatització de processos Reservar la primera reunió