Casos d'automatització que fracassen per haver-se saltat el diagnòstic

El cas més citat del 2024 i el 2025 en automatització de l’atenció al client és Klarna, i val la pena examinar-lo de prop perquè no és una història sobre si la IA funciona. És una història sobre què passa quan s’automatitza sense haver diagnosticat abans on s’acaba l’avantatge de la màquina i on comença la necessitat d’una persona.

Què va passar

El 2024, Klarna va substituir prop de 700 llocs d’atenció al client per un assistent d’IA desenvolupat amb OpenAI. L’empresa va anunciar que el sistema feia la feina equivalent a la d’aquells 700 agents i que s’encarregava del 75% de les converses amb clients en més de 35 idiomes. Durant mesos, va ser l’exemple que tothom citava com a prova que la IA podia substituir a gran escala feina qualificada.

Quinze mesos després, el mateix conseller delegat, Sebastian Siemiatkowski, va reconèixer a Bloomberg que l’empresa havia anat massa lluny. Va dir que s’havien centrat massa en l’eficiència i el cost, i que la qualitat del servei n’havia sortit perjudicada. Klarna va començar a tornar a contractar agents humans, aquesta vegada amb un model híbrid: la IA s’ocupa de les consultes rutinàries i de gran volum, i les persones dels casos que requereixen criteri, empatia o negociació.

Per què va passar, i per què no va ser una fallada del model

El més revelador del cas no és que el model fallés tècnicament. És que ningú no havia definit amb precisió on acabava el nivell de qualitat que podia mantenir l’automatització abans de traspassar aquell límit. Les mètriques inicials, com ara el volum resolt, el temps de primera resposta i les converses per hora, feien semblar que el projecte era un èxit rotund. Però amagaven un problema que només va aparèixer més tard: va començar a augmentar la proporció de clients que havien de tornar a contactar perquè el problema continuava sense resoldre’s, i també la insatisfacció.

També es va infravalorar el cost de fer marxa enrere. Tornar a contractar, formar i reconstruir un equip humà d’atenció al client va resultar car, una despesa que gairebé mai no s’inclou en el càlcul inicial de l’estalvi. L’estalvi promès no es va arribar a materialitzar del tot.

Klarna no és un cas aïllat. Altres empreses han repetit el mateix patró: IBM va substituir bona part de la seva funció de recursos humans per IA i va acabar tornant a contractar personal quan el sistema no va poder gestionar cap cas que requerís empatia o criteri subjectiu. Commonwealth Bank of Australia va revertir 45 acomiadaments en comprovar que els llocs eliminats mai no havien estat realment redundants.

La pregunta que calia fer abans

En tots tres casos, el problema no va ser automatitzar. Va ser fer-ho sense haver respost dues preguntes molt concretes: en quin punt es degrada la qualitat del servei a mesura que augmenta l’automatització, i com se’n podrien adonar abans que ho comuniquessin els mateixos clients. La segona pregunta és igual d’important: hi ha una via per tornar a l’atenció humana, està a un sol pas de qualsevol interacció o el client ha de lluitar per trobar-la?

Cap d’aquestes preguntes no es respon en una demo. Cal diagnosticar prèviament el procés real: quin percentatge de casos és rutinari i repetible, quins requereixen criteri humà i què passa exactament en el límit entre els dos.

La lliçó per a una pime

L’error de Klarna va ser d’escala, però el mecanisme és idèntic al que es repeteix en empreses molt més petites: automatitzar el 100% de l’atenció al client sense reservar la part que necessita una persona. La diferència és que una pime no té el marge d’una empresa fintech valorada en milers de milions per desfer l’error sense patir un dany greu a la reputació.

El diagnòstic previ no és un tràmit burocràtic que retarda el projecte. És el que determina si el projecte estalviarà diners de debò o si acabarà costant el doble entre una implantació fallida i la marxa enrere.