Algú et va dir que la IA necessita "un humà al bucle", i et vas imaginar la pitjor versió: tu, cada vespre, llegint cada missatge que va enviar el teu assistent de reserves, cada resposta que va publicar el teu agent de ressenyes, cada pressupost que va redactar la teva eina de facturació. Una segona feina, a sobre de la que la IA se suposava que t'havia d'estalviar.
Així que vas fer una de dues coses. O no vas engegar mai l'automatització (massa vigilància perquè valgués la pena), o la vas engegar, et vas cansar de llegir-ho tot a la segona setmana, i vas deixar de revisar sense dir-ho a ningú, ni a tu mateix. He vist propietaris de negocis petits caure als dos costats, la mateixa setmana, pel mateix motiu: ningú els va dir que "estar al bucle" té una mida.
No vol dir llegir-ho tot. Vol dir decidir, una vegada, quins moments mereixen la teva atenció, i deixar que la resta funcioni sense tu.
"Estar al bucle" no és sinònim de "llegir-ho tot"
Si revises cada cosa que produeix una IA, no has estalviat ni un minut. Has afegit una feina de correcció a sobre de la feina d'automatització. Això no és supervisió: són dues feines amb un sol nom.
La supervisió de debò decideix per endavant quines categories de resultat surten directes, i quines esperen el teu toc. Pensa en algú que porta una petita empresa d'excursions en vaixell (un exemple compost, no un negoci concret; el que serveix és el patró). El seu assistent de reserves gestiona els missatges dels clients. El recordatori del dia abans ("ens veiem al moll a les 9, porta jaqueta, la primera hora l'aigua està tranquil·la") surt sol. Si té algun error petit, el client respon i es resol en dos minuts. No es perd res.
Una petició de reemborsament el mateix dia perquè una tempesta va cancel·lar la sortida és un animal diferent. Surt diner del negoci, i un cop surt, ja no torna. Aquest cas espera el seu toc.
Mateixa eina, mateixa etiqueta de "humà al bucle": quantitat de vigilància real completament diferent.
La prova que marca la línia
Dues preguntes ho decideixen, i serveixen tant per a una resposta de forn de pa com per a un reemborsament de vaixell:
1. Si això surt malament, és barat de desfer? Un recordatori mal redactat és barat. Un total de factura equivocat, ja enviat a un client, no ho és.
2. Toca els diners, la seguretat o la reputació pública d'algú abans que una persona ho vegi? Un esborrany desat en una carpeta encara no toca res. Una resposta publicada en directe amb el nom del teu negoci toca les tres coses.
Si respons que sí a qualsevol de les dues, espera una persona. Si respons que no a totes dues, deixa-ho córrer: el patró el revises després (segueixen sonant bé els recordatoris, un cop per setmana, no missatge per missatge?), no cada cas per separat.
Això és, sense que se noti, la mateixa idea que el sector de l'automatització ha començat a anomenar "IA determinista": programadors que embolcallen una regla fixa ("si passa això, llavors allò, sempre") al voltant de la part imprevisible d'un model d'IA, perquè els moments de risc caiguin sempre igual. Zapier en va escriure aquesta mateixa setmana, sobretot per a gent que programa programari. La versió de les dues preguntes d'aquí dalt és la mateixa idea per a qui porta un restaurant, no un repositori de codi.
On viu de debò la revisió
Un cop has traçat aquesta línia, "humà al bucle" deixa de ser un hàbit mental que has de recordar i passa a ser una propietat de la mateixa eina: un pas d'aprovació integrat en com està muntada l'automatització, no una cosa que hi afegeixes prometent-te "hi estaré atent". Ausavia està construïda així a propòsit: qualsevol acció amb conseqüències reals (un pressupost, una factura, una resposta que surt amb el teu nom) espera un toc des del teu mòbil abans de moure's; la feina rutinària de sota no espera ningú. És la mateixa prova de les dues preguntes, només que feta estructural en lloc de recordada.
Si vols entendre el mecanisme de fons, què és el que fa que una cosa sigui de debò un "agent" i no un chatbot amb més adorns, ja en vaig escriure per separat; aquest text dona per fet que ja en tens un funcionant i et preguntes fins a quin punt cal vigilar-lo de prop.
El límit honest
Res d'això funciona si et saltes els cinc minuts de decidir, per endavant, quines són les teves dues respostes per al teu propi negoci. El programari pot fer complir una línia; no la pot traçar per tu. Aquesta part és criteri, i és teu.
Algunes categories mereixen una xarxa de "revisar sempre" més àmplia, decideixin el que decideixin les dues preguntes: qualsevol cosa que toqui informació de salut, qualsevol cosa que un organisme regulador et pugui demanar explicar més endavant, qualsevol cosa que et faria vergonya que sortís sense una segona mirada. Amplia la xarxa aquí; segueix sent supervisió, només que més estricta.
I fins i tot el teu munt de "segur per enviar sol" necessita una ullada de tant en tant, no perquè un missatge en concret sigui arriscat, sinó perquè les eines es desvien: una plantilla de recordatori que al juny estava bé pot quedar antiquada a l'agost sense que ningú se n'adoni. Revisa el patró un cop al mes. No estàs llegint cada missatge; estàs comprovant que el munt que vas decidir que era segur ho segueix sent.
Una cosa a provar aquesta setmana
Fes una llista de tot el que toca la IA al teu negoci aquesta setmana: els missatges, les respostes, els pressupostos, les factures. Per a cadascun, aplica les dues preguntes. Si no pots respondre en cinc segons, marca'l com a "revisar". Aquesta llista, no cap programa, és la teva política real d'humà al bucle, i la pots escriure al dors d'un sobre abans de dinar.
Clara F.