Imagina que tens un taller mecànic petit. Has posat un assistent d'IA perquè contesti el WhatsApp mentre tu ets amb les mans sota un capó. Un client pregunta quant costa la revisió prèvia a la ITV. L'assistent respon: 40 euros. La teva tarifa són 90. El client es presenta al taller, t'ensenya la captura i et mira.
Qui paga els 50 euros de diferència? Gairebé segur que tu. I entendre per què et serveix per a qualsevol error d'un agent, no només per als barats.
El client mai no ha vist el teu programari
Per a un client no hi ha "l'assistent" d'una banda i "el taller" de l'altra. Hi ha una sola cosa: el teu negoci, responent des del teu número. Si la resposta és incorrecta, te l'exigirà a tu.
Això no és teoria. El 2024, un tribunal canadenc (el Civil Resolution Tribunal de la Colúmbia Britànica, en el cas Moffatt contra Air Canada) va resoldre el cas d'un client a qui el xatbot de la web de l'aerolínia va dir que podia demanar un descompte per defunció després de viatjar. La política real deia el contrari. L'aerolínia va defensar, en el fons, que el xatbot era una cosa a part i que ella no responia del que digués. El tribunal no ho va acceptar i la va condemnar a pagar. La quantitat va ser petita, uns quants centenars de dòlars canadencs. El principi, no.
Vigila què en treus. És un sol tribunal, al Canadà, i el despatx d'advocats que el resumeix parla d'una autoritat "només persuasiva" fora d'allà. A més, tractava d'un xatbot amb guió, no d'un agent que actua pel seu compte. No et diu què faria un jutjat de cap país de la UE. El que sí que ensenya és com raona la gent de manera natural: una eina que poses davant dels teus clients parla en nom teu.
El que Europa ha escrit (i el que no)
Podries esperar una llei clara de responsabilitat per la IA que ho resolgués. No n'hi ha. La Comissió Europea va proposar una Directiva de responsabilitat en matèria d'IA i la va retirar el febrer de 2025, perquè els estats membres no es van posar d'acord sobre el text. La Directiva revisada sobre responsabilitat per productes defectuosos ja considera el programari, també la IA, un producte, però s'ocupa sobretot de què passa quan el fabricant lliura alguna cosa defectuosa. No de què deus a un client quan el teu propi agent s'equivoca amb un preu.
La resposta honesta és aquesta: per a la majoria dels errors quotidians continuen funcionant les regles de sempre sobre el que vas prometre al client i la cura que hi vas posar. No sóc advocada, i que un error concret et costi diners depèn del contracte, de la llei aplicable i dels detalls. Si hi ha factures, impostos o una disputa pel mig, consulta-ho amb el teu gestor o amb un advocat. La resta d'aquest article va del que sí que és a les teves mans.
El teu proveïdor probablement no se'n farà càrrec
Això és el que més sorprèn. Hom suposa que si l'eina falla, l'empresa que l'ha feta comparteix la culpa. Llegeix les condicions. Les condicions estàndard dels serveis d'IA sovint traslladen a l'usuari el risc del que l'eina produeix, limiten el màxim que el proveïdor arribarà a pagar i, de vegades, et demanen que el cobreixis tu si un client reclama. Com explica el despatx Astris a la seva guia sobre responsabilitat dels agents, aquestes condicions obliguen tu i el proveïdor, no els teus clients. El teu client et pot reclamar a tu, i potser tindràs ben poc a recuperar.
Un contracte negociat ho pot canviar. Un pla que acceptes amb un clic, gairebé mai.
Aleshores, on entra una persona?
Si la resposta habitual a "qui paga?" és "tu", la pregunta pràctica passa a ser: quins errors et pots permetre?
Una manera útil d'ordenar-los: pregunta't què passa si l'agent s'equivoca i ningú ho veu abans que surti.
- Barat i reversible: un esborrany de resposta per a tu, una nota al calendari, un resum dels missatges d'ahir. Deixa'l córrer. Revisa de tant en tant.
- Ho veu un client: un preu, un termini, una promesa ("ho tenim divendres"), un reemborsament. Una persona ho mira abans. Aquí viuen els errors de 40 euros contra 90.
- Mou diners o no es pot desfer: pagaments, qualsevol cosa presentada davant d'una administració, esborrar registres. Una persona ho aprova, cada vegada.
És la mateixa línia que tracem a Ausavia: l'agent prepara i tu toques aprovar. No perquè els agents no serveixin, sinó perquè qui respon després és la persona que té el seu nom al negoci, i per això ho ha de veure primer. Si en vols l'argument llarg, És legal deixar que una IA actuï sense que tu ho comprovis? explica què diuen les normes sobre la supervisió, i Qui t'avisa si la teva IA s'equivoca? explica com t'assabentes que alguna cosa ha fallat.
Fins on arriba aquest consell
Si el teu agent només et prepara esborranys i no surt res sense que ho vegis, quasi tota aquesta preocupació es redueix. Els dubtes de responsabilitat es fan seriosos quan l'agent parla sol amb els clients, i per això en aquest pas "encara no" és una resposta raonable. I que una persona aprovi no és cap escut màgic: si toques aprovar en quaranta missatges sense llegir-los, has assumit el risc sense conservar la protecció. I si un client pateix un dany que afecta dades personals, la seva salut o un conflicte legal, necessites assessorament de debò, no un article.
Una cosa per a aquesta setmana
Dedica deu minuts a escriure una llista curta: "Què pot fer sol el meu assistent, què reviso abans, què només faig jo". Posa la llista de preus en un lloc del qual l'assistent hagi de llegir, no de memòria. Després obre les condicions de la teva eina d'IA i busca tres paraules: responsabilitat, indemnitzar, resultats. Diguin el que diguin, sabràs què hi estàs carregant de veritat.