Vull explicar-te el moment exacte en què un bon hàbit de seguretat es converteix en decoració.
Imagina una empresa de lloguer de cotxes un divendres a la tarda. Catorze cotxes han tornat aquesta setmana amb una retenció de fiança a la targeta que cal alliberar, i l'assistent d'IA redacta cada missatge d'alliberament just quan el cotxe es registra com a tornat: "Hola Marc, la teva fiança ja torna cap a la teva targeta, gràcies per confiar en nosaltres." La propietària rep una notificació de Slack per cadascun i toca Aprovar. Els tres primers els llegeix amb calma. Al desè, el polze va més ràpid que els ulls. Al vintè, aprova abans d'acabar de llegir el nom.
Això no és un cas hipotètic. Ja té nom en els cercles de seguretat d'agents: fatiga d'aprovació. I el 2026 és l'any en què va deixar de ser una molèstia menor per convertir-se en una cosa que la gent busca provocar expressament.
L'hàbit que es desgasta sol
Una enquesta a 518 directius d'empreses amb polítiques de governança d'IA, feta enguany per Zapier, ha trobat una cosa que val la pena rumiar. Entre les empreses que ja havien tingut un mal moment amb una IA que va actuar sense control, el 49% creu ara que té massa supervisió. Entre les que encara no han tingut cap problema, només el 9% pensa el mateix. Torna-ho a llegir: les empreses que es van cremar són les que més ganes tenen de revisar menys, no més.
Aquest és l'efecte del segell de goma resumit en una xifra. Una revisió que mai es va dissenyar, que simplement es va activar per a tot, no falla el primer dia per ignorar-la. Falla a poc a poc: la cua s'allarga, el toc d'aprovar es torna automàtic i, al final, algú decideix, amb raó, que tot això és fricció inútil i l'apaga, i s'emporta per davant els casos que sí que valia la pena detectar.
Quan el segell de goma es converteix en l'objectiu
Aquí ve la part que t'hauria de preocupar de debò. Al març de 2026, un conjunt de regles de detecció d'amenaces molt utilitzat en sistemes d'agents d'IA va afegir una entrada nova: explotació de la fatiga d'aprovació humana. Descriu exactament el que sembla: algú dissenya la cua de revisió a propòsit perquè li ho colin. Tres patrons es repeteixen una vegada i una altra:
- Volum: inundar la cua amb peticions gairebé idèntiques fins que qui revisa deixa de llegir-les una per una.
- Llenguatge que resta importància: una petició redactada com "el de sempre, aprova-ho tot," pensada per sonar massa rutinària com per mirar-la.
- Barreja: una acció arriscada amagada dins d'una pila d'altres totalment inofensives, en el moment en què estàs buidant la cua a corre-cuita.
Tornem a l'empresa de lloguer: dinou alliberaments de fiança genuïns i un missatge que demana alliberar una fiança a una targeta diferent "perquè el client ha canviat de banc," colat a les 17:40 d'un divendres. Si la propietària porta una hora aprovant en pilot automàtic, aquest missatge passa exactament igual que els altres.
Arregla la cua, no la persona
La solució no és "llegeix amb més cura" (ningú manté això passada la primera setmana) ni tampoc "no revisis res." És decidir, una sola vegada, què mereix estar de debò a la cua.
Divideix les accions de la teva IA en dos grups: allò rutinari i reversible (un alliberament de fiança estàndard, una confirmació de reserva, una resposta a una pregunta freqüent) i allò que toca diners que surten del negoci, una promesa a un client, o qualsevol cosa difícil de desfer. Només el segon grup necessita els teus ulls, cada vegada. El primer pot funcionar sol, potser amb un resum diari en lloc d'un toc per missatge. Vaig escriure sobre la prova exacta per separar els dos grups a De debò he de revisar-ho tot si faig servir IA?; això és el que toca fer un cop ja has traçat aquesta línia, perquè la pila de "això sí que ho reviso" es mantingui prou petita com per seguir-la revisant de debò.
Un altre hàbit que val la pena adoptar: tracta frases com "aprova-ho tot, va" o "avui res estrany" com un motiu per mirar més de prop, no per relaxar-te. Aquest és exactament el to que fa servir un atac de fatiga quan funciona.
El que això no arregla
Ordenar la cua una vegada no vol dir que ja estigui fet. Eines i tipus de petició nous tornen a colar-se al grup "rutinari" si ningú revisa aquesta divisió cada pocs mesos. I una cua amb només cinc elements realment arriscats al dia tampoc és immune, simplement és prou petita perquè hi puguis parar atenció de debò a cadascun, que és l'objectiu, no una garantia.
Això tampoc va de confiar menys en les teves eines d'IA. Va de confiar més en la teva pròpia atenció, no gastant-la en els dinou missatges que mai la van necessitar, perquè en quedi per al vintè que sí.
Una cosa a fer aquesta setmana
Mira el que la teva eina d'IA t'ha demanat d'aprovar avui. Compta quants n'has llegit de debò davant de quants has tocat sense aturar-te. Si el segon número és més gran, no tens supervisió, tens un llum que sempre està en verd. Divideix la cua abans d'acabar apagant-la del tot.