O femeie a reușit să păcălească banca și familia cu o clonă creată de inteligența artificială

În ultimul timp se tot vorbește de roboți de chat, precum ChatGPT al companiei OpenAI sau Bard de la Google, sau despre generatoarele de imagini ca Dall-E. Există însă instrumente cu care oamenii pot acum să șteargă și mai mult linia de separare dintre inteligența artificială și cea umană. „În ultimele luni, am testat Synthesia, un instrument care creează avataruri cu inteligență artificială din videoclipuri și înregistrări audio (numite și deepfakes)”, scrie jurnalista Joanna Stern. „Tastează orice și avatarul tău video îți spune textul înapoi ca un papagal.” Stern a înregistrat 30 de minute de imagini video și aproape 2 ore de audio pe care Synthesia le-a folosit pentru a-i antrena clona. Câteva săptămâni mai târziu, AI Joanna era gata să dea piept cu realitatea.

Apoi, Stern s-a folosit de avatarul ei inteligent și de ChatGPT ca să încerce să vadă dacă această clonă o poate înlocui în timpul filmărilor, a întâlnirilor online și în convorbirile telefonice. La un moment dat, AI Joanna ar putea să scrie articole și să prezinte videoclipuri. Pentru moment, ea este cea care poate ilustra cel mai bine lama cu două tăișuri a instrumentelor de generare de voce și imagine AI. Ca să apari într-o filmare este nevoie de mult timp și efort: cineva trebuie să îți aranjeze părul, să îți facă machiajul și să opereze camerele, luminile, microfoanele și așa mai departe. Synthesia promite să facă întreg acest proces unul inutil și de aceea corporațiile au început deja să apeleze la serviciile lor. Cu programele de acest gen nu mai este nevoie ca firmele să plătească actori care să apară în videoclipuri de prezentare sau de instruire a angajaților. Cu doar 1.000 de dolari pe an, acestea pot crea și gestiona un avatar personalizat (sau, pentru o sumă mult mai mică, un avatar de stoc).

Clonele virtuale, tot mai greu de deosebit de realitate.

„Mă uitam ca la reflecția mea din oglindă” Cu ajutorul ChatGPT, Stern a scris un text scurt pentru un videoclip de TikTok cu sfaturi despre sistemul de operare iOS rostit de vocea jurnalistei. „A fost ca și când mă uitam la reflecția mea dintr-o oglindă, lipsită totuși de gesturile cu mâna și de expresiile faciale”, scrie Stern. „Pentru propoziții rapide, avatarul poate fi destul de convingător. Cu cât este mai lung textul, cu atât natura sa de robot își face simțită prezența”.

Pe TikTok, unde oamenii au capacitatea de concentrare a unui peștișor de aur, aceste asemănări cu un program de calculator nu sunt atât de evidente. Robotul din AI Joanna și-a făcut imediat simțită prezența, însă, în timpul unei conferințe video. Postura ei perfectă și faptul că îi lipsește simțul umorului au fost indicii clare pentru colegii lui Stern că nu se adresează unei persoane reale. Synthesia lucrează acum la avataruri care dau din cap și ridică din sprâncene, printre alte gesturi nou dobândite, ceea ce le va face să pară mult mai reale. Pentru convorbirile telefonice cu sora ei și cu directorul executiv al Snap, Stern a folosit o clonă audio a sa generată de ElevenLabs, un dezvoltator de programe de manipulare a vocii.

Cu 90 de minute de înregistrări audio în care se aude glasul lui Stern, programul a reușit să îi cloneze vocea în doar două minute. Acum, tot ce trebuia ea să facă era să introducă o propoziție, iar clona ei o enunța cu voce tare.

Clona ei audio, însă, a fost de ajuns pentru a păcăli sistemul biometric audio al cardului bancar al lui Stern. Când a auzit vocea robotului, sistemul a recunoscut-o ca aparținând jurnalistei și a redirecționat-o imediat către un reprezentant al băncii. Având în vedere cât de ușor a fost să creeze o clonă care să păcălească sistemul de siguranță al băncii, orice persoană cu acces la internet ar putea să fure câteva ore de înregistrări audio cu o altă persoană pe care o poate imita cu un singur click.

Ambele sisteme mi-au permis să generez niște lucruri oribile cu vocea mea, inclusiv amenințări cu moartea. „Sigur, este clar că eu nu sunt clona mea video, dar [tehnologia] va deveni din ce în ce mai bună”, scrie Stern. „Și dacă proprii mei părinți și sora mea nu au putut cu adevărat să audă diferența din vocea mea, pot să mă aștept de la alții să o facă?”

Mai mult, pe digi24