Äskettäiset edistysaskeleet tekoälyssä eivät ole tuoneet vain kehittyneempiä ja älykkäämpiä chatbotteja, vaan ovat myös tuoneet mukanaan merkittäviä haasteita, erityisesti syvän väärennösten lisääntyessä. Vaikka monet näistä AI-renderöistä on jälkigeneroituja, uusi tekee sen reaaliaikaisella tekoälykasvojen vaihdolla, jota voidaan käyttää videopuheluiden aikana.
Uusi AI-projekti nimeltä Deep-Live-Cam on äskettäin saanut pitoa verkossa sen ominaisuuden osalta, joka käyttää syväväärennösten käyttöä verkkokameroissa. Samalla tämä on herättänyt keskustelua sen aiheuttamista mahdollisista turvallisuusriskeistä ja eettisistä seurauksista.
Miten Deep-Live-Cam eroaa muista deepfake-ohjelmista
Pohjimmiltaan Deep-Live-Cam käyttää kehittyneitä tekoälyalgoritmeja, jotka voivat ottaa yhdestä lähteestä valokuvan ja liittää kasvot kohteeseen suorien videopuheluiden aikana, kuten verkkokameroissa. Kun hanke on vielä kehitteillä, ensimmäiset testit osoittavat jo sekä huolestuttavia että vaikuttavia tuloksia.
Kuten Ars Technicassa on tarkemmin kuvattu, sovellus lukee ja tunnistaa ensin kasvot lähteestä ja kohdekohteesta. Sitten se käyttää vaihtomallia vaihtamaan kasvot reaaliajassa, kun taas toinen malli parantaa kasvojen laatua ja lisää tehosteita, jotka mukautuvat muuttuviin valaistusolosuhteisiin ja ilmeisiin. Tämä hienostunut prosessi varmistaa, että lopputuote on erittäin realistinen eikä sitä ole helppo tunnistaa väärennökseksi.
Esimerkki kasvojen fuusiosta käyttämällä Elon Muskia lähteenä / © GitHub / Ars Technica
Esimerkiksi yksi kehittäjän jakamista klipeistä osoitti Teslan toimitusjohtajan Elon Muskin kasvojen realistisen sulautumisen aiheeseen. Deepfake sisälsi jopa reseptilaseja ja kohteen hiukset, mikä teki siitä uskomattoman vakuuttavan. Toinen esitetty esimerkki oli Yhdysvaltain varapresidenttiehdokas JD Vancen ja Metan Mark Zuckerbergin kasvot.
Yhdysvaltain varapresidenttiehdokas JD Vancen kasvojen fuusio Deep-Live-Camin avulla / © X/u/Orange AI
Pitäisikö sinun huolestua tekoälysimulaatiosovellusten noususta?
Joten miksi tämä koskee erityisesti? Deel-Live-Camin ja muiden reaaliaikaisten deepfake-sovellusten käyttö herättää vakavia huolenaiheita yksityisyydestä ja turvallisuudesta. Kuvittele, että kuva sinusta voidaan napata Internetistä ja käyttää petokseen, huijaamiseen ja muihin haitallisiin toimiin ilman lupaasi.
Tällä hetkellä nähdään, että puutteet voidaan korjata muutamalla tavalla, kuten vesileimojen sisällyttäminen sovellusta käytettäessä ja vankat tunnistusmenetelmät. Ratkaisua voidaan soveltaa myös muihin deepfake-ohjelmiin ja -sovelluksiin.
Kiinnostus työkalua kohtaan vei sen nopeasti GitHubin trendikkäiden projektien listalle.
Mitä mieltä olet reaaliaikaisista AI-simulaatiosovelluksista? Onko sinulla käytäntöjä jaettavaksi, kuinka suojautua näiltä mahdollisilta riskeiltä? Haluaisimme kuulla vastauksesi kommenteissa.
Kautta: Arstechnica
