Inovacijos

Kas yra „deepfakes“ ir kodėl jie pavojingi?

2019 spalio 24

Technologijos visada turi ir savo tamsiąją pusę. Tiksliau žmonės visada ras būdų, kaip išnaudotį šį jų potencialą. Realybės falsifikacijomis mes juk užiimame jau nuo pačios fotografijos pradžios. Kartais tai pakankamai nekalti pokštai – tokie kaip Sniego žmogaus atvaizdai. Kartais – propagandos įrankiai, ištrinantys iš istorijos nepatogius žmones. Visgi interneto amžiuje tokios falsifikacijos tiesiog dramatiškai patobulėjo. Gigabaitai vaizdinės medžiagos, Dirbtinio intelekto sprendimai ir, regis, bet ką sukurti padėti galinčios programos padovanojo pasauliui vadinamuosius „deepfakes“ – vaizdo ir/ar garso simuliacijas, kurios tokios tikroviškos, kad dažnai sunku jas ir atpažinti. Kaip ir kodėl jos atsiranda? Kokias grėsmes jos kelia? Galų gale, kaip jas atpažinti ir užkirsti joms kelią? Tai klausimai, į kuriuos atsakyti mums būtina, jeigu nenorime pasimesti tarp to, kas tikra, o kas ne.

Kas yra tie „deepfakes“?

Kaip ir galima suprasti jau iš paties pavadinimo, „deepfakes“ video ir audio įrašų netikrumas paslėptas labai giliai. Taip giliai, kad klastos neįtariančios akys paprasčiausiai nieko nesupras. Jeigu realybės manipuliacijoms kažkada reikėdavo didelių ir retų išteklių, tai šiandien tam užtenka parsisiųsti tam tikros programinės įrangos. Didžiąją dalį „deepfakes“ sukuria eiliniai interneto vartotojai. Vieni jų kūriniai lengvai identifikuojami (pavyzdžiui, pornografiniai „įžymybių“ vaizdo įrašai ar kitokia kompromituojanti medžiaga), o kiti praktiškai nieko nesiskiria nuo autentiškų (klipai su kalbančiais politikais, sakančiais tik šiek tiek iškreiptas frazes). Jeigu netikite, kad tokie dirbtiniai įrašai gali būti paveikūs, tiesiog nueikite į YouTube kanalą „Ctrl Shift Face“ arba pasiklausykite garso įrašo, kuriame kalba žinomas komikas ir podkasteris Joe Rogan’as. O tiksliau, kur simuliuojama jo kalba. Taip, tiek pirmu, tiek antru atveju viskas sukurta tik dėl smagumo. Tačiau, kas nutiktų, jeigu tie patys kūrėjai nuspręstų sugadinti kažkieno reputaciją, priversdami jį kalbėti baisius dalykus, ar sabotuoti rinkimus paskleisdami dezinformaciją?

Kaip ir kodėl tai veikia?

Jeigu patys kada nors pasimovėte ant „deepfakes“ arba bent jau pasijutote jo labai sutrikdyti, nesijauskite kažkokiais neadekvačiais. Jie kuriami naudojant netgi labai pažangias mašininio mokymosi technologijas. Jau pats jų veikimo principas toks, kad „deepfakes“ nuolat tobulėtų. Jie kuriami pasitelkiant vadinamuosius GAN (generacinius prieštaringus tinklus). Ši mašininio mokymosi programos tokios pažangios dėl to, kad iš esmės varžosi tarpusavyje. Dviem tokiems modeliams pateikiama tam tikra duomenų bazė. Ja remdamasis, vienas modelis sukuria „deepfakes“ video. Tuomet antrasis modelis jame pradeda ieškoti klastotės požymių. Pirmasis modelis tada tobulina originalųjį video, ištaisydamas klaidas, ir vėl atiduoda jį tikrinti antrajam. Šis procesas tęsiamas tol, kol antrasis modelis nebegali surasti jokių klaidų. Būtent todėl dauguma „deepfakes“ ir yra kuriami su įvairiomis įžymybėmis ar politikais – šių žmonių atvaizdų viešojoje erdvėje paprasčiausiai yra daugiausiai, tad programos turi daugiau informacijos, kuria remtis gali kurdami savo simuliacijas.

Kodėl ir kiek jie pavojingi?

Nenuostabu, kad „deepfakes“ fenomenas ima pamažu neraminti žmones. Atsiranda vis daugiau tokių, kurie baksnoja pirštu į griaunamąjį šio fenomeno potencialą. Atsiranda netgi ir tokių, kurie „deepfakes“ spėjo pakrikštyti „mūsų laikų atominėmis bombomis“. „Šiandien pakanka tiesiog prisijungti prie mūsų bankų, elektros ar ryšių sistemų, o tada paskleisti pasauliui falsifikuotą medžiagą, kuri pridarytų daugybę žalos“, – yra kalbėjęs JAV senatorius Marco Rubio. Švelniai tariant, tokia apokaliptinė prognozė yra kiek perspausta. Vis dėlto, „deepfakes“ keliamų pavojų nereikėtų ir nuvertinti. „Aš skeptiškai žiūriu į pareiškimus esą šis reiškinys gali sukelti tokią didelę žalą. Tačiau tie pavyzdžiai, kuriuos mes jau galėjome matyti, tikrai yra neraminantys ir mažų mažiausiai sukelia daugybę klausimų“, – sako MIT Media Lab mokslininkas Tim Hwang. „Deepfakes“ karo nesukels, bet tikrai gali labai neigiamai paveikti tiek žinomų, tiek eilinių žmonių reputacijas. Pasinaudojant tokiais įrankiais, asmens veidą galima įklijuoti į video, kurie su realybe neturi nieko bendro. Visi puikiai žinoma, kaip greitai internete plinta informacija, ir kaip sunku (o tiksliau neįmanoma) iš jo pašalinti tegu ir visišką melą.

Kaip juos aptikti?

Bėda ir ta, kad „deepfakes“ šiuo metu tarsi ir yra absoliučiai legalūs. Netgi ir jūs dabar galite ramia sąžine parsisiųsti FakeApp ir pradėti žaisti su tikrove. Tiesa, tokie mėgėjiški kūriniai paprastai gana lengvai identifikuojami net ir plika akimi. Jie iš tikrųjų kuriami tik dėl smagumo ir didesnio pavojaus nekelia. Žmogus gana gerai instinktyviai atpažįsta netikrus dalykus. Šis sugebėjimas netgi turi pavadinimą – „uncanny valley“ efektas. Vis dėlto, mašininio mokymosi įrankiams vis labiau tobulėjant, mums darysis vis sunkiau ir sunkiau. „Deepfakes“ aptikimui prireiks tokių pačių skaitmeninių įrankių. Tiesa, jų efektyvumas ekspertams kelia abejonių. Teoriškai, jeigu Generacininiam prieštaringiems tinklams būtų suteikiama informacija apie tai, kaip veikia „deepfakes“ gaudančios programos, jie tiesiog išmoktų išvengti tokių spąstų. Jeigu mes negalėsime identifikuoti padirbtų video, labai gali būti, jog mes paprasčiausiai nebegalėsime tikėti niekuo. Internetas šiuo metu daro įtaką praktiškai visiems mūsų gyvenimo aspektams, tad negalėjimas tikėti jame esančios informacijos teisingumu paskelbs „tiesos eros pabaigą“.

Ar įmanoma kokia nors reguliacija?

Turbūt, jums jau kilo natūrali reakcija: privalome „deepfakes“ uždrausti arba bent jau griežtai reguliuoti! Deja, ne viskas taip paprasta. Juk dažniausiai „deepfakes“ kūrėjai nedaro absoliučiai nieko blogo. „Tokia baimė man atrodo labai kritikuotina. Tikrai nemanau, kad šis reiškinys staiga ims ir peržengs kažkokią mitinę ribą, o mes nebesugebėsime atskirti, kas yra tikra, o kas ne“, – sako T. Hwang. Anot jo, jau pats susidomėjimas „deepfakes“ problema yra būdas apsisaugoti nuo jų. Juk kuo daugiau apie juos žinosime, tuo lengviau atpažinsime. Nerimą, ko gero, turėtų kiek sumažinti ir pirmosios bausmės, kurios neišvengiamai kada nors bus paskirtos „deepfakes“ kūrėjams. Taip, juos saugo žodžio laisvės įstatymai, bet tuo pačiu varžo asmens duomenų apsaugos taisyklės, tad tik laiko klausimas, kada kas nors teisme apgins savo teisę į atvaizdą. Tiesa, daug daugiau keblumų turėtų sukelti „deepfakes“ garso klipų problema. Teisininkų ir įstatymų leidėjų iš tiesų laukia daugybė klausimų. O mūsų – būtinybė internete būti dar budresniems ir kritiškai vertinti viską, ką pamatome internete.