_ Emisiunea ITV dezvăluie cât de convingătoare - și, prin urmare periculoase - videoclipurile „deepfake” pot fi

Jos în însorita Catford, sud-estul Londrei, ghivecele cu plante zboară ca stil Idris Elba și vecinul său Kim Kardashian se confruntă cu grădina comună de casele lor cu terasă.

Pe Isle of Wight, lucrător pentru tineret Olivia Colman și soțul ei student matur Jay-Z împărtășește o pasiune pentru dansul în linie și pisica lor, Cabbage – dar nu și agentul imobiliar smecher, Tom Hiddleston, de alături.

Asistenta medicală stagiară Andy Murray și mama lui, un Lorraine Kelly, au probleme de limită peste cocoșul zgomotos al vecinului RuPaul în satul lor somnoros Cotswold; în timp ce Adele – o îngrijitoare proaspăt singură care s-a mutat într-un semi-Coventry – urăște modul în care porumbeii distrug accesoriile de grădină pe care îi place să le cumpere de la Shopping Channel.

Dacă toate acestea sună ca ingredientele unui coșmar prelungit suburban. , aceasta este în întregime intenția unui nou serial ITV care constituie primul serial de comedie „deepfake” din lume.

Deep Fake Neighbor Wars folosește tehnologia de ultimă oră „deepfake” pentru a transpune celebritățile pline de farmec într-un împrejurimi infinit mai puțin glamour. făcând slujbe de pietoni și locuind în case obișnuite.

Show-ul este o serie de schițe de comedie extinse în care fețele celebrilor sunt grefate digital pe actori care își uzurmă vocile și manierele.

La prima vedere, vrăjitoria computerizată este atât uimitoare, cât și neliniştitoare – distribuția chiar arată ca aceste vedete, chiar dacă nu sună întotdeauna exact ca ele.

Dar la fel cum determină potențialul deepfake-ului. emoție febrilă în divertisment industria industrială, provoacă o alarmă tot mai mare în rândul politicienilor și experților în securitate care văd pericolul – în special în răspândirea de știri false – într-o tehnologie care poate face să pară că cineva a spus sau a făcut ceva.

Țări ostile, sau alții cu intenții maligne, ar putea chiar să-l folosească pentru a submina instituțiile democratice și securitatea națională.

Ce s-ar putea întâmpla, de exemplu, dacă nu ar fi criza lui Idris Elba cu un vecin falsificat, ci un lider mondial. amenințarea unei alte țări sau batjocorirea unui aliat — într-un videoclip, de exemplu, care apare cu o seară înainte de alegerile generale. Sau un șef de poliție care spune ceva profund rasist după ce un bărbat de culoare tocmai a fost ucis. Dintr-o dată, nu este deloc amuzant.

Unii văd amenințarea unei imense perturbări sociale și chiar „sfârșitul adevărului”, deoarece software-ul deepfake devine extrem de sofisticat și atât de răspândit încât poate fi descărcat de pe un telefon mobil.

Într-o lume din ce în ce mai polarizată, căreia îi era deja destul de greu să cadă de acord cu ceva, în curând s-ar putea să nu mai avem încredere în ochii și urechile noastre, darămite unii în alții. Pentru a înrăutăți lucrurile, așa cum se întâmplă de obicei cu tehnologia de galop, există foarte puține legi care să ne protejeze.

Deep Fake Neighbor Wars nu este nici pe departe la fel de impresionant ca seria de scurte videoclipuri deepfake pe YouTube ale lui Tom Cruise care a început să apară în urmă cu trei ani.

Specialul în efecte vizuale Chris Ume a făcut echipă cu Miles Fisher, asemănător lui Tom Cruise, pentru a produce un videoclip cu Cruise falsificat, care anunță că candidează pentru funcția de președinte.

Un an mai târziu, Fisher a început să posteze videoclipuri pe propriul său cont TikTok. Primul său videoclip, în care joacă golf în rolul lui Cruise, a strâns patru milioane de vizionări în mai puțin de două zile, în timp ce într-un altul, „DeepTomCruise” îl îmbrățișează pe adevăratul Paris Hilton. Pentru mulți, videoclipurile lui Fisher au fost o introducere în ceea ce se poate realiza cu software-ul deepfake.

Niciuna dintre vedetele trimise în serialul ITV nu a fost consultată sau a dat permisiunea – deși Deep Fake Neighbor Wars a folosit imaginile lor. nu este ilegală (încă nu oricum).

Cu toate acestea, în timp ce serialul începe fiecare episod cu o declinare a răspunderii pe ecran că ceea ce urmează este „tot fals” și „celeb-urile reale nu au avut nimic de-a face cu asta „, iar o etichetă „deep fake” rămâne în colțul ecranului, nu există nimic care să împiedice ca clipurile editate ale emisiunii să fie publicate pe rețelele de socializare fără un astfel de avertisment.

Deși niciuna dintre „celeburile adevărate” s-a plâns, sindicatul actorilor Equity și-a exprimat temerile – chiar și a lansat o campanie Stop AI Stealing The Show – cu privire la consecințele „distopice” pentru artiștii care nu sunt consultați, cu atât mai puțin plătiți dacă fețele lor sunt folosite pentru falsări profunde.

Un videoclip sau o fotografie deepfake implică de obicei suprapunerea feței unei persoane pe corpul altcuiva. Poate suna simplu, dar a înșela ochiul uman prin potrivirea expresiilor, gesturilor, vocii, chiar și a ticurilor faciale necesită multă muncă. Deepfake-urile sunt de obicei create prin introducerea a mii de fotografii cu cineva (persoanele celebre sunt mai ușor de falsificat, deoarece există atât de multe poze cu ei în jur) într-un program de calculator în interiorul unei camere speciale.

Acest lucru folosește „învățarea automată”. ' (o formă de inteligență artificială, sau AI, prin care computerul învață de la sine) pentru a înțelege cum va arăta persoana respectivă din diferite unghiuri prin amestecarea informațiilor din toate fotografiile.

O copie a feței persoanei respective. poate fi apoi suprapus pe cel al actorului care este substitutul în scopul falsului.

Dacă doriți ca oamenii să spună lucruri pe care nu le-au spus niciodată, software-ul trebuie să învețe cum le-au spus gura, fața și chiar gâtul se mișcă în timp ce pronunță cuvinte. (Este adesea cel mai ușor să găsești un deepfake nesofisticat uitându-te la gură.)

În mod ideal, înlocuitorul trebuie să se miște cât mai încet posibil. Efectuarea de mișcări rapide sau manifestarea de emoții puternice poate perturba procesul, la fel ca blocarea unor părți ale feței, de exemplu prin punerea ochelarilor de soare. Dar chiar și aceste probleme sunt rezolvate.

O variantă mai avansată a programului deepfake, cunoscută sub numele de GAN, (sau Generative Adversarial Networks) implică utilizarea a doi algoritmi AI concurenți, dintre care unul creează un deepfake și celălalt încearcă să descopere falsul. Treptat, prin încercare și eroare, ei vor reduce imaginea deepfake pentru a produce ceva care este aproape de o asemănare perfectă.

În timp ce un simplu software deepfake poate fi descărcat gratuit pe un telefon mobil, munca de post-producție considerabilă este invariabil. trebuie făcut pentru a netezi defectele minore pe care un computer care se bazează pe măsurători statistice le poate rata, dar ochiul uman nu le va face.

Audioul poate fi, de asemenea, falsificat pentru a crea așa-numitele „clone de voce”, fie prin software care imită o voce sau leagă cuvintele pe care persoana imitată le-a rostit de fapt.

Industria filmului și a televiziunii experimentează de câțiva ani tehnologia deepfake, deși preferă să o numească „media sintetică”: a fost folosit pentru a „învia” actori morți, cum ar fi Peter Cushing în filmele ulterioare Star Wars, pentru a-l pune pe Bruce Willis într-o reclamă rusească și pentru a-l face pe Regina să danseze în parodia impertinentă din 2020 de la Channel 4 a Discursului de Crăciun al lui HM.

Un final de sezon al emisiunii TV America's Got T Alent a prezentat deepfakes ale lui Elvis Presley și Simon Cowell.

Tocmai s-a anunțat că actori, printre care Tom Hanks și Robin Wright, vor primi tratamentul deepfake, „transformându-se fără probleme în versiuni mai tinere ale lor” într-un viitor lungmetraj, care implică aceeași companie, Metaphysic, care a realizat Videoclipuri cu Tom Cruise.

Între timp, revoluția Deepfake a arătat deja că are aplicații mult mai sinistre decât trimiterea celebrităților sau efectuarea unor trucuri de schimbare a timpului în filme de lung metraj.

Într-adevăr. , termenul a fost inventat în 2017 pe panoul de mesagerie online Reddit de către producătorul de videoclipuri sexuale în care fețele interpreților au fost schimbate cu cele ale actrițelor de film.

Este încă pus în uzuri sordide — alimentând astfel- numit „porno de răzbunare” (în care oamenii obișnuiți pot fi făcuți să pară ca și cum ar face sex).

Un program de internet deepfake deosebit de tulburător poate elimina hainele dintr-o fotografie și o poate înlocui cu un nud realist. corp. Multe dintre cele peste 100.000 de victime au fost fete minore.

În 2019, se crede că infractorii au folosit tehnologia deepfake pentru a imita vocea directorului executiv al filialei britanice a unei companii germane de energie. Escrocii l-au contactat prin telefon pe unul dintre subordonații CEO-ului și i-au ordonat să transfere o sumă de aproape 200.000 de lire sterline.

O escrocherie similară cu clonarea vocii le-a adus hoților 29 de milioane de lire sterline într-un furt bancar din Dubai. Și, cu doar câteva zile în urmă, vedeta din Harry Potter, Emma Watson, a fost falsificată citind din Mein Kampf al lui Hitler.

Deepfake a fost folosit în farse politice de la Joe Biden adormit în timpul unui interviu acordat lui Barack Obama, care l-a numit pe Donald Trump un „scădere totală****”.

Anul trecut, pe rețelele de socializare a circulat un videoclip cu predarea liderului ucrainean Volodimir Zelenski în fața Rusiei. A fost de proastă calitate, dar, au spus experții în securitate, a arătat ce s-ar putea încerca.

Unii politicieni din SUA vor să scoată în afara legii deepfake-urile rău intenționate și spun că este o problemă care ține agențiile de informații „treaz noaptea”. După cum a spus un senator american: „Deepfake-urile pot fi personalizate pentru a-i îndepărta pe americani și pentru a turna benzină în aproape orice incendiu de război cultural.”

În poliție, nu numai că ar putea duce la o ființă nevinovată. implicat în mod greșit, dar vinovații ar putea întotdeauna să respingă videoclipul incriminator autentic ca fiind fals. În 2020, a reieșit că o înregistrare audio falsă a fost folosită într-o luptă pentru custodie din Regatul Unit pentru a discredita tatăl, dezvăluind că a făcut amenințări „violente” împotriva soției sale.

Ar fi nedrept să spunem că: tehnologia a fost o veste proastă în afara industriei divertismentului. Poliția olandeză a folosit-o anul trecut pentru a reînvia un caz rece din 2003, recreând digital o victimă a crimei în vârstă de 13 ani. Cumpărătorii online îl pot folosi pentru a încerca hainele în cabinele de probă virtuale. Între timp, are utilizări în videoclipuri de serviciu public, cum ar fi cele pentru campania Malaria Must Die, care l-a arătat pe David Beckham vorbind în nouă limbi sau în vârstă de peste 70 de ani.

Dar problemele etice ale deepfake-ului, spun experții, sunt serios si presant. Având în vedere nenumăratele domenii care ar putea fi exploatate, de la diplomație și securitate națională la afaceri și politică, „ar trebui să fim foarte îngrijorați”, spune Mathilde Pavis, specialist în dreptul internetului și expert în deepfake la Universitatea Reading. Problema „necesită un răspuns internațional care chiar lipsește”.

Este prea târziu pentru a încerca să interzică deepfake-urile definitiv și, eventual, chiar să le restricționăm pe cele rău intenționate, spun experții. În schimb, susțin ei, trebuie să devenim mai „cunoașteți din punct de vedere tehnologic” și să fim mai conștienți de posibilele înșelăciuni false.

Ar putea fi greu. După cum i-a spus Tom Cruise adevăratului Paris Hilton, când se întreabă dacă oamenii vor crede că sunt un cuplu: „Cred că majoritatea oamenilor vor crede orice.”

(Fluierul)