Són dos quarts de nou, l'última clienta ha marxat fa quaranta minuts, i la propietària de la perruqueria (me la invento, però la coneixes, o ets tu) encara és al taulell amb el portàtil, escrivint al ChatGPT. Vol ajuda per redactar un missatge a un proveïdor que no para d'enviar-li el to de tint equivocat. Escriu el nom del proveïdor, un número de comanda, i per què ha hagut de canviar l'hora a una clienta aquella mateixa tarda. Un dimarts qualsevol.
El que no sap, perquè gairebé ningú t'ho explica quan et dones d'alta, és que, en el pla gratuït que fa servir, tota aquesta conversa pot acabar sent material d'entrenament per a una futura versió del model. No perquè ningú estigui espiant la seva perruqueria. Perquè així ve configurat de sèrie, i ella mai no ha anat a buscar l'altra opció.
Quan acabis això, sabràs exactament quin és aquest ajust, en l'eina que facis servir de debò per al negoci, i per què "pla personal" i "pla d'empresa" no són només una diferència de preu.
Què vol dir realment "entrenar" per a les teves paraules
Quan algú es preocupa perquè la IA "entrena amb les seves dades", el que passa sol ser menys dramàtic del que sona, i més permanent. Ningú agafa la teva frase exacta i la hi llegeix a un desconegut. La teva conversa es barreja amb un munt enorme d'altres converses, i el model s'ajusta, molt lleugerament, segons els patrons d'aquest munt: quines maneres d'expressar-se han funcionat, què s'ha corregit, què sol preguntar la gent i com. El teu problema amb el proveïdor no surt reconeixible per l'altra banda, per a ningú.
Però la frase que vas escriure tampoc deixa d'haver passat. Un cop una conversa entra en una tanda d'entrenament, ja no se'n pot treure. I en més d'una de les grans eines, abans d'arribar ni tan sols a l'entrenament, una persona real pot llegir una mostra de la conversa per jutjar si la resposta del model va ser bona. Aquest és un detall que la majoria de guies ràpides es salten. Una guia per a principiants sobre ChatGPT que he revisat aquesta setmana explica que hi ha un interruptor per desactivar l'entrenament, cosa que és honesta fins a cert punt. El que mai no diu és que aquest interruptor només existeix perquè ve activat per defecte, ni que la resposta canvia del tot quan pagues un compte d'empresa en lloc d'un de personal.
Mira el teu pla, no la teva por
Funciona així, i es repeteix en les tres eines a què recorre gairebé qualsevol petit negoci. En els plans personals de ChatGPT (Free, Plus, Pro), les converses es fan servir per millorar el model per defecte, tret que entris a Configuració i desactivis "Millorar el model per a tothom". A ChatGPT Business, Enterprise i a l'API, això ve apagat des del principi; no hi ha res a buscar perquè no hi ha res encès.
Claude segueix el mateix patró. Els comptes Free, Pro i Max tenen per defecte activat "Ajudar a millorar Claude". El desactives a Configuració de privadesa, i en fer-ho, a més s'escurça el temps que es guarden les teves converses. Claude per a empreses i l'API en queden excloses automàticament, igual que els plans d'empresa de ChatGPT.
Gemini, en un compte personal de Google, guarda les teves converses i en fa revisar algunes per persones per avaluar la qualitat de les respostes, tret que desactivis "Mantenir activitat" per a les aplicacions de Gemini als teus Controls d'activitat de Google. Si fas servir Gemini a través d'un compte d'empresa amb Google Workspace, pregunta-ho a qui l'administri en lloc de donar-ho per fet: aquí les configuracions d'empresa varien més que en les altres dues eines.
Res d'això està exactament amagat. Està publicat, és legal, i com va dir sense embuts un directiu de Twitch aquesta mateixa setmana, en anunciar un ajust gairebé idèntic per als vídeos dels streamers: "Si això fos opt-in, ningú s'hi apuntaria. Aquesta és, sincerament, la resposta." Els ajustos per defecte no són un parany. Són, simplement, la manera de passar que un grapat de persones toqui un interruptor a que ho faci gairebé tothom. I funciona precisament perquè la majoria no obre mai el menú de configuració.
Què fa l'interruptor, i què no fa
Desactivar l'entrenament es mereix cinc minuts, i no és un escut perfecte. Anthropic reconeix obertament que una conversa marcada pels seus sistemes de seguretat es pot conservar i fer servir igualment, passi el que passi amb el teu ajust. No t'avisen de quan passa, ni ho pots preguntar. I tot allò que ja va entrar en una tanda d'entrenament abans que desactivessis l'interruptor, s'hi queda; l'ajust només protegeix el que escriguis a partir d'ara.
Així que aquí hi ha el límit honest, i pesa més que el mateix interruptor: un ajust no és el mateix que una promesa. Si un detall t'avergonyiria a tu o a una clienta si aparegués on no toca (un nom real, una dada de salut, un número que identifiqui algú), aquell detall no hauria d'entrar en un xat d'IA personal, sigui quin sigui el pla. L'interruptor canvia les probabilitats. No canvia el que de debò convé escriure.
Els cinc minuts d'aquesta nit
Obre l'eina d'IA que facis servir de debò per al negoci (no la que pensaves canviar per una altra) i busca l'ajust d'entrenament: Controls de dades al ChatGPT, Configuració de privadesa al Claude, Controls d'activitat a Google. Desactiva'l si tens un pla personal. Si ja tens un compte d'empresa o d'equip de pagament, confirma que en queda exclòs en lloc de donar-ho per fet. Normalment hi queda, però "normalment" és justament la paraula que es mereix cinc minuts de comprovació.
I deixa el nom real de la clienta fora del xat, facis el que facis amb l'interruptor. És el mateix instint que hi ha darrere de quan respons legalment per allò que fa una IA sense que tu ho comprovis: els ajustos de l'eina són reals, però encara ets tu qui decideix què hi entra.
Clara F.