Studiu: Imitațiile generate de GPT-4 Turbo ale a 112 de politicieni le-au depășit pe cele reale

Imitațiile generate de IA ale politicienilor nu s-au limitat să treacă drept reale. Le-au depășit pe răspunsurile autentice exact pe atributele pe care oamenii le folosesc pentru a evalua credibilitatea. Cercetătorii de la Universitatea din Passau au folosit GPT-4 Turbo pentru a imita 112 figuri publice în perioada premergătoare alegerilor din Marea Britanie din 2024, au prezentat ieșirile modelului alături de răspunsuri reale din dezbateri și au constatat că participanții au evaluat răspunsurile sintetice mai bine pe dimensiunile autenticitate, coerență și relevanță.

Ce a testat, de fapt, studiul

Mecanismul contează mai mult decât titlul. Nu a fost vorba de un videoclip deepfake sau de o clonă vocală. A fost vorba de text: un LLM configurat prin prompt să răspundă în numele unei figuri publice identificate, evaluat oarbă alături de cuvintele reale ale acesteia.

• 112 figuri publice imitate de model.
• Momentul ales este legat de ciclul electoral al alegerilor din Marea Britanie din 2024, un context politic activ.
• Participanții au acordat răspunsurilor IA note mai mari decât celor reale pe criteriile de autenticitate, coerență și relevanță.

Ultimul punct este cel care merită meditat. „Autenticitatea” ar trebui să fie exact aspectul în care un fals eșuează. Aici, însă, este zona în care modelul a câștigat.

De ce a obținut IA note mai mari

Explicația e simplă și nu are nimic magic. Răspunsurile reale din dezbateri sunt pline de rezerve, întrerupte, se abat de la subiect și sunt modelate de presiunea momentului. Un LLM generează varianta curată, aliniată la discursul politic, pe care un ascultător așteaptă să o audă de la un politician. Oamenii nu detectează adevărul. Ei se bazează pe recunoașterea de tipare, comparând textul cu un șablon mental al „cum ar trebui să sune un politician competent”, iar modelul se potrivește mai bine cu acel șablon decât omul însuși.

Acest lucru redefineste riscul. Pericolul nu stă în capacitatea IA de a imita perfect stilul unei anumite persoane. Stă în faptul că un text fluid, coerent și plauzibil este perceput ca mai demn de încredere, indiferent dacă este autentic sau nu.

De ce contează pentru România și Estul Europei

Estul Europei este o țintă de valoare ridicată pentru exact această categorie de manipulare textuală la costuri reduse. Regiunea organizează alegeri cu impact major pe termene strânse, găzduiește operațiuni active de influență străină și include piețe media în limbi mai puțin răspândite, unde capacitatea de fact-checking este limitată. Româna, maghiara, bulgăra și alte limbi din CEE se încadrează deja bine în capabilitățile modelelor de clasa GPT-4.

Structura costurilor este esențială pentru oricine dezvoltă sau investește aici:

• Imitarea textuală are un cost de producție la scară largă aproape nul. Fără buget pentru video, fără mostre vocale, fără post-producție.
• Detecția este problema mai dificilă și cu potențial de finanțare. Instrumentele pentru proveniență, filigranare digitală și atribuirea surselor reprezintă zona defensibilă a produsului – nu încă un generator de conținut.
• Reglementarea va veni să acopere acest vid. Legea UE privind IA și normele pentru integritatea electorală vor împinge platformele și campaniile către cerințe de proveniență, creând o piață de compliance pentru startup-urile din CEE care lucrează în limbi locale, neglijate de furnizorii globali.

Tendința recentă în acoperirea acestui subiect a fost acumularea exponențială a capabilităților IA — agenți de trading, redistribuirea cotelor de piață între modele, noi laboratoare care lansează produse. Este aceeași curbă, dar îndreptată acum spre integritatea informației. Modelele au devenit suficient de bune pentru a fi convingătoare înainte ca instrumentele de verificare să fie implementate.

Concluzii esențiale

• Imitațiile generate de GPT-4 Turbo pentru 112 figuri au depășit răspunsurile reale pe criteriul autenticității – ceea ce înseamnă că fluiditatea, nu acuratețea, dictează credibilitatea percepută.
• Vulnerabilitatea exploatată este textul ieftin, nu deepfake-urile – oportunitatea defensivă stă în proveniență și detecție, în special pentru limbile mai puțin răspândite din CEE.
• Contextul sincronizat cu alegerile transformă riscul din teoretic în operațional – agenda electorală densă a CEE și capacitatea limitată de fact-checking local cresc expunerea.