Deep Fakes ovat väärennettyjä kuvia, ääni- ja videotallenteita, jotka kuulostavat ja näyttävät aidolta. Itse sana deepfake on osoitus syvästä oppimisesta ja väärennöksestä, mikä viittaa tapaan, jolla koneoppimista ja tekoälyä (AI) käytetään näiden väärennösten luomiseen. Deep fake -teknologiaa on käytetty kevyesti viihdetarkoituksiin, mutta se on myös laittanut sanoja poliitikkojen suuhun, helpottanut sosiaalisen manipuloinnin huijauksia ja jopa heittänyt julkkiskasvoja pornografiseen sisältöön ilman lupaa.
Miten syväväärennöksiä tehdään?
Se saattaa kuulostaa tieteiskirjallisuudesta tai Hollywoodin erikoistehostetaigialta, mutta syvä väärennöstekniikka on yllättävän saatavilla. Yleisin menetelmä on face swap deep fake, jossa henkilön kasvot videolla korvataan toisen henkilön kasvoilla. Tämä kasvojen vaihtomenetelmä perustuu alkuperäisen henkilön videotietojen ja korvaavien kasvojen valokuvien syöttämiseen tekoälyalgoritmiin. Tekoäly analysoi alkuperäiset kasvot ja uudet kasvot, löytää ottelut ja kartoittaa uudet kasvot kehys kuvalta olemassa olevaan videoon. Koko syvän väärennöksen luomisprosessi voidaan automatisoida verkkopohjaisilla palveluilla, mutta tekoälyalgoritmit ovat myös ladattavissa, joten kuka tahansa, jolla on tarpeeksi asiantuntemusta, voi luoda syväväännöksiä omalla kotitietokoneellaan. Samanlaisia prosesseja voidaan käyttää luomaan aidolta näyttäviä väärennettyjä kuvia, animoimaan still-kuvia näyttelijän liikedatan avulla ja jopa matkimaan realistisesti henkilön ääntä. Kaikki perustuu tekoälyyn, joka hajottaa syötetiedot, kuten valokuvat, videot ja äänitallenteet, ja sitten syntetisoi uutta mediaa, jota ei voi erottaa todellisesta asiasta.
Muutamia syvällisiä väärennettyjä esimerkkejä
Monet syvät väärennökset ovat haitallisia, kuten sanojen laittamista poliitikon suuhun, tai luonteeltaan pornografisia, mutta tekniikkaa on käytetty myös kevyempiin keinoihin. Tässä on joitain syviä väärennöksiä, jotka voit tarkistaa itse:
- George Lucas ja Harrison Ford: Tämä syvä väärennösvideo on vain yksi sarjasta humoristisia Collider-videoita, joissa kuvataan lahjakkaita impressionisteja ja joiden kasvot korvataan julkkiksilla. Tässä esimerkissä George Lucas ja Harrison Ford vastaavat Baby Yodalle lähettäjältä Mandalorialainen.
- The Rock Deep Faked on The Rock: Tässä Corridor Crew’n syvässä väärennöksessä he käyttävät syvää väärennöstekniikkaa korjatakseen aavemaisen laakson kuvan Dwayne Johnsonista Skorpionikuninkaana toimittamalla tekoälyvideodataa Johnsonista aikaisemmasta elokuvasta.
- Henry Cavillin huuli korjattu Supermanissa: VFX-esiintyjät pakotettiin piilottamaan Cavillin viikset joissakin Justice League -kohtauksissa sarjakuvamaisilla tuloksilla. Tämä rinnakkainen vertailu osoittaa, kuinka paljon parempi syvä väärennös voi tehdä.
- Arnold Schwarzeneggerin kasvot Bill Haderissa: Tässä leikeessä Bill Hader jäljittelee Arnoldin ääntä, ja Arnoldin kasvot väärennetään syvästi Ctrl Alt Face -näppäimellä Haderin kehossa. Vaikutus poistetaan, kun Hader käyttää normaalia ääntään, ja sitä käytetään matkiessaan Schwarzeneggeriä.
- Tekoäly vääristää syvästi Joe Roganin ääntä: Tässä pätkässä Joe Roganin podcastin ääni syötettiin tekoälyalgoritmiin realistisen äänimallin luomiseksi, joka voi sanoa melkein mitä tahansa.
Mistä tunnistat syvät väärennökset?
Tekniikan kehittyessä on entistä vaikeampaa erottaa syvä väärennös aidosta. Jotkut on helpompi havaita kuin toiset, mutta paras näyttää ja kuulostaa erittäin todelliselta. Löydät helpommin amatöörien valmistamat tuotteet, jotka eivät pysty hyödyntämään valtavaa kokemusta ja prosessointitehoa, mutta sinun tulee tarkkailla merkkejä tekoälyn häiriöistä. Näin huomaat syvän väärennöksen:
- Katso kasvojen reunoja: Jos tekoälylle ei anneta tarpeeksi syöttödataa, uudet kasvot voidaan liittää hankalasti alkuperäiseen päähän, jolloin syntyy ilmeisiä rajaviivoja tai kasvomuoto, joka ei näytä oikealta.
- Tutki hiuksia: Jos näet yksittäisiä karvoja ristiin kasvojen yli, kyseessä on todennäköisesti todellinen video. Tekoäly pyrkii luomaan realistisia hiuksia, eivätkä yksittäiset karvat yleensä näy tekoälyn luomissa videon osissa.
- Kiinnitä huomiota suuhun ja hampaisiin: Tekoälyllä on yleensä ongelmia yksittäisten hampaiden luomisessa, mikä on helppo havaita, jos videolla on riittävän korkea resoluutio. Tarkista myös mahdolliset virheet suun avaamisessa ja sulkemisessa.
- Jos henkilö katsoo poispäin, keskeytä video: Syvät väärennökset onnistuvat erittäin hyvin, kun henkilö on kameraa päin, mutta heillä voi olla vaikeuksia vaihtaa profiilikuvaan tai jos henkilö kääntyy kokonaan pois kamerasta.
- Varo tuntemattomia tietolähteitä: Vaikka on mahdollista, että luotettava lähde johdetaan harhaan ja tekee syvän väärennöksen ikään kuin se olisi todellinen, jos pysyt luotettavissa uutislähteissä, sinua harhaan johdetaan paljon vähemmän.