Íme, az arcok, amelyek sohasem léteztek

Érdemes ide kattintva megnézni a This Person Does Not Exist, azaz az Ez a személy nem létezik című weboldalt. Emberi arcot fog mutatni, amely szinte tökéletesen valósághű, mégis teljesen hamis.

Frissítsük az oldalt (lépjünk ki, és újra be, vagy nyomjunk a billentyűzeten Ctrl + F5-öt), és az oldal mögött lévő neurális hálózat újra és újra létrehoz egy másik sohasem létezett személy arcát, és még egyet, és még egyet, és még egyet.

A mesterséges intelligencia által kreált arcok végtelen sorát egy generative adversarial network (GAN), azaz generatív ellenséges hálózat hozza létre – egy olyan fajta mesterséges intelligencia, amely megtanulja, hogy valósághű, de hamis példákat hozzon létre a számára betanított adatokból.

A GAN által generált arcok azonban – amelyeket már kezdenek használni CGI-filmekben és reklámokban – talán nem is olyan egyediek, mint amilyennek látszanak.

A This Person (Probably) Exists – Ez a személy valószínűleg létezik című tanulmányban a kutatók azt mutatják, hogy a GAN-ok által előállított arcok nagy része feltűnő hasonlóságot mutat a képzési adatokban megjelenő valódi személyekkel – írja az MIT Technology Review.

És a hamis arcokból vissza lehet következtetni azokra a valódi arcokra,

amelyekre a GAN-t betanították, leleplezhető a csalás.

A rejtett adatok feltárásához Ryan Webster és kollégái a franciaországi Caen Normandiai Egyetemen olyan visszafejtést alkalmaztak, amellyel kideríthető, hogy bizonyos adatokat használtak-e egy neurális hálózati modell képzéséhez. Ez felfigyel a finom különbségekre aközött, ahogyan egy számítógépes modell kezeli azokat az adatokat, amelyekre betanították – és amelyeket így már több ezerszer látott –, valamint a nem látott adatokat.

Például egy modell pontosan azonosíthat egy korábban nem látott képet, de valamivel kisebb megbízhatósággal, mint egy olyan képet, amelyre betanították. Egy második modell megtanulhatja észrevenni az ilyen árulkodó jeleket az első modell viselkedésében, és ezeket felhasználva megjósolhatja, hogy bizonyos adatok, például egy fénykép, mikor szerepeltek a tanulóhalmazban, és mikor nem.

Mindezek komoly biztonsági réseket eredményezhetnek. Ha például kiderül, hogy valakinek az orvosi adatait egy betegséggel kapcsolatos modell betanításához használták, kiderülhet, hogy az illetőnek ez a betegsége van.

Webster csapata sok esetben több valódi emberről készült fotót talált, amelyek egyeztethetőek voltak a GAN által generált hamis arcokkal, így felfedték a mesterséges intelligencia által megalkotott személyek eredeti személyazonosságát. Azt, akiből a gépek tanultak.

Ez komoly adatvédelmi aggályokat vet fel. Kiderülhetnek egyénhez kötött adatok, például biometrikus vagy orvosi adatok. Másrészt Webster rámutat, hogy

az emberek arra is használhatnák a technikát, hogy ellenőrizzék, hogy az adataikat a beleegyezésük nélkül használták-e fel egy mesterséges intelligencia képzésére.

A művészek megtudhatnák, hogy a munkájukat felhasználták-e egy GAN betanítására valamilyen kereskedelmi eszközben.

A probléma egyáltalán nem hipotetikus. Az okostelefonok és más kis készülékek egyre több mesterséges intelligenciát kezdenek használni. Az akkumulátor és a memória felhasználás korlátozása miatt a modelleket néha csak félig dolgozzák fel magán a készüléken, és a végső számítási feladatot a felhőbe küldik, ez az úgynevezett osztott számításnak nevezett megközelítés.

A legtöbb kutató feltételezi, hogy a megosztott számítás nem fed fel semmilyen privát adatot egy személy telefonjáról, mivel csak a modellt osztják meg, de ez messze nem így van, az eredeti modell kikutatható. Most azon dolgoznak, hogy módot találjanak arra, hogy megakadályozzák a magánadatok kiszivárgását a modelleken keresztül.

Borítóképünk illusztráció