Tots els negocis d'IA que venen a petits negocis diuen ara mateix alguna versió de la mateixa frase: tu sempre tens el control, la confirmació queda a les teves mans, res passa sense que tu ho aprovis. S'ha convertit en la promesa més segura que es pot fer, i precisament per això ja no et diu gaire cosa.
Llegeixo moltes d'aquestes pàgines de producte. Algunes empreses ho diuen de debò, a l'únic lloc que importa. D'altres ho diuen en un lloc que gairebé no importa. La portada no et diu quin és quin. Tres preguntes sí.
El que "a les teves mans" hauria de significar de debò
Un agent d'IA funciona en un bucle. Observa alguna cosa (una sol·licitud de factura, un missatge d'un client), decideix què fer i actua. En un sistema ben construït hi ha un quart pas entre decidir i actuar: alguna cosa revisa aquesta acció abans que arribi a produir-se (explico el bucle complet a Què és de veritat un "agent" d'IA?).
"La confirmació sempre queda a les teves mans" és una afirmació sobre aquest quart pas, i només sobre aquest pas. Veu algú l'acció concreta abans que passi, sempre, per a les accions que de debò et costarien alguna cosa si sortissin malament? És una afirmació concreta i comprovable. Un producte pot ser totalment honest en dir que hi ha supervisió en algun punt, mentre aquesta supervisió és lluny de la part que realment t'importa.
El buit que és fàcil no veure
Aquest any vaig veure obrir-se justament aquest buit en un producte real adreçat a petits negocis. L'empresa va afegir una pàgina on assistents d'IA com ChatGPT o Claude poden consultar directament els seus preus i funcions, i en aquesta pàgina promet que la confirmació sempre queda del costat del propietari. És cert, fins on arriba. Aquesta pàgina és només de lectura. Res del que hi ha no mou diners ni envia res en el teu nom, així que no hi ha res rellevant a confirmar, per començar.
La part del mateix producte que de debò porta el negoci (el bot que registra despeses, envia factures i processa pagaments) funciona d'una altra manera. La mateixa pàgina del producte ho diu sense embuts: no conversa, executa. Li demanes que registri una despesa i la registra. Li dius que enviï una factura i la factura surt, a l'instant, sense pausa. Només dues coses s'aturen per demanar confirmació humana: canviar el compte bancari registrat i canviar un tipus d'impost. Totes dues són ajustos de compte. Cap de les dues és l'acció de moure diners que algú s'imagina en llegir "sempre a les teves mans".
Ningú ha mentit. Les dues frases, a les dues pàgines, són certes. El buit és que qui llegeix la portada no té manera de saber quina promesa està rebent de debò.
Tres preguntes que tanquen el buit
1. Quines accions concretes s'aturen a esperar-te? Demana la llista, no l'adjectiu. "Confirmació" i "control" són adjectius. "Abans que surti una factura" és una acció concreta.
2. On passa aquesta pausa? Dins de la mateixa acció, o en una pàgina d'ajustos que només trobaries si la busquessis? Una pausa que viu als ajustos de compte protegeix el teu compte. No protegeix els teus clients ni els teus diners.
3. Què diu la documentació tècnica o de suport, no la portada? El text de màrqueting està escrit per tranquil·litzar-te. Un article de suport que descriu què fa l'eina per defecte està escrit per ser exacte, perquè algú acabarà exigint a l'empresa que ho compleixi.
El propietari d'una ferreteria que comparava dos assistents de facturació va preguntar exactament això en una trucada d'alta el mes passat. Un proveïdor va respondre en una sola frase: cada factura i cada pagament espera la teva confirmació abans de sortir, sense excepcions. L'altre va parlar de "transparència total i panells de control" durant dos minuts sense anomenar ni una sola acció que realment s'aturés. Mateixa promesa a la portada. Dos productes molt diferents a sota.
On són els límits honestos
Una pausa de confirmació real val el que valgui qui l'aprova. Si cada sol·licitud rep un sí automàtic sense una lectura de debò (val la pena revisar aquest costum amb honestedat, vegeu De debò he de revisar-ho tot si faig servir IA?), la pausa és pur teatre, ho vulgui o no l'empresa.
Una resposta vaga avui tampoc no vol dir sempre mala fe. Alguns d'aquests productes encara estan de debò en construcció, afegint passos de confirmació reals, funció a funció. El just és preguntar quan, per escrit, i tractar una evasiva com la teva resposta, en lloc de suposar mala fe per una sola trucada comercial.
Tampoc no existeix encara cap segell ni certificació per a res d'això. Ningú audita les promeses de confirmació d'un proveïdor d'IA com un inspector de sanitat revisa una cuina. De moment, l'auditoria ets tu.
L'única cosa a fer abans de donar-te d'alta
Tria les dues o tres accions del teu negoci que de debò et costarien alguna cosa si sortissin malament sense supervisió: una factura que surt, un pagament que es mou, un missatge que arriba a un client en el teu nom. Escriu al proveïdor i pregunta, sense embuts, si cadascuna d'aquestes accions concretes espera la teva confirmació sempre, sense excepcions. Guarda la resposta per escrit. Si després no es compleix quan facis servir l'eina, és una decisió de negoci, no un problema tècnic, i tindràs el comprovant.