Aquesta setmana ha començat a repetir-se una cerca en blogs de negoci: "es legal que un agente de IA actúe sin supervisión". És una bona pregunta. I des de fa vuit dies ja no és hipotètica, tot i que gairebé ningú qui la respon s'ha llegit la llei.
Doncs llegim-la. Què exigeix realment el Reglament d'IA de la UE abans de deixar que un agent que factura, que envia pressupostos o que fa qualsevol altra cosa funcioni sense que ningú hi miri? I sobretot: quan s'equivoca, qui respon, el programa o tu?
El que la llei exigeix de debò (sorprenentment poc)
El Reglament sí que obliga a la supervisió humana en alguns sistemes d'IA. Però només en els d'"alt risc": les vuit categories de l'Annex III, que cobreixen cribratges de contractació, puntuació de crèdit, vigilància biomètrica i serveis públics essencials. L'automatització normal d'un negoci (un agent que redacta factures, envia pressupostos o quadra la comptabilitat) no hi és, en aquesta llista. Així que si fas servir una eina d'IA per enviar factures a partir de les teves hores registrades, res al Reglament t'obliga a revisar-ne cada una abans que surti.
Això sorprèn la majoria, perquè "regulació d'IA" sona a "s'ha de revisar-ho tot." Per a les eines del dia a dia d'un negoci petit, gairebé mai diu això.
L'obligació que sí que existeix, i que des del 2 d'agost té dents
Que no t'obliguin a revisar cada factura no és el mateix que estar lliure de responsabilitat. L'article 4 del Reglament, en vigor des de febrer del 2025, diu que qui faci servir un sistema d'IA ha de mantenir "un nivell suficient d'alfabetització en matèria d'IA": tu, o qui gestioni l'eina dia a dia, has d'entendre de debò què fa i on pot fallar. Sense llindar de mida: un autònom que fa servir una sola eina d'IA respon igual que una empresa de 200 persones.
Fins aquest mes, això era gairebé teòric. El 2 d'agost, l'AESIA (l'autoritat espanyola de supervisió d'IA) va obtenir plena potestat sancionadora per fer-ho complir, juntament amb les normes de transparència que ja vam explicar. No cal una gran investigació per obrir expedient: n'hi ha prou amb una denúncia, d'un client o d'un empleat, sigui quina sigui la teva mida. I el que de debò demanen no és la prova que vas revisar cada resultat: és la prova que entenies l'eina prou bé com per saber quan calia fer-ho.
La raó de pes per comprovar-ho igualment
Aquí hi ha la part que importa més que qualsevol multa. Un agent d'IA no té existència legal pròpia, ni a Espanya ni enlloc. Qui estudia això de prop ho diu sense embuts: avui dia, cap sistema d'IA és persona jurídica enlloc, cosa que vol dir que el que fa en nom teu és, legalment, una cosa que has fet tu. El que enviï amb el teu NIF, el teu capçal o el nom del teu negoci és teu en el moment que surt.
"La meva IA es va equivocar" mai ha estat una resposta vàlida davant d'un client enfadat, i tampoc ho és davant d'Hisenda. Si una declaració està malament, qui la corregeix és el contribuent, no l'eina que la va omplir. Per això existeix l'autoliquidació rectificativa: corregeix-ho tu abans que ningú més se n'adoni, i la sanció desapareix. Espera que se n'adoni algú altre, i no.
Imagina't una consultora autònoma que deixa que un agent generi factures automàticament a partir de les seves hores registrades. Un mes, l'agent compta dues vegades una setmana que va facturar a dos clients per un projecte compartit, i la factura inflada surt sense que ningú la miri abans. Res d'això va ser il·legal: el Reglament mai li va dir que l'hagués de revisar. Però quan el client truca confós, no és l'agent qui es disculpa i emet l'abonament. És ella.
El que això no cobreix
Això parla de l'automatització normal de rebotiga: facturació, pressupostos, comptabilitat rutinària. Si fas servir IA per a alguna cosa que decideix sobre una persona, i no només gestiona el teu propi paperam (cribar candidats, puntuar crèdit, qualsevol cosa d'aquella llista d'alt risc), la supervisió humana deixa de ser opcional i passa a ser una exigència legal ferma. Aquesta és una altra conversa, més feixuga, que mereix un advocat de debò. I la proporcionalitat en les multes de l'AESIA no significa simbòlica: una sanció reduïda per a un negoci petit continua sent diners reals.
Fes això avui
Escriu un paràgraf (no una política, un paràgraf) descrivint què fa realment la teva eina d'IA, quines dades llegeix per decidir, i l'única manera com l'has vist (o t'imagines que podria) equivocar-se. Aquest paràgraf és la teva prova de l'article 4 si algun dia te la demana l'AESIA. I, no per casualitat, són els cinc minuts de pensar que haurien evitat que sortís aquella factura duplicada.
Clara F.