A mesterséges intelligencia fejlődésével egyre nehezebb pusztán ránézésre eldönteni, hogy egy videó, hangfelvétel vagy digitális tartalom valódi-e. A Fintech Világa legutóbbi adásában Érczfalvi András műsorvezető Siklós Bencével, a Peak tanácsadójával és Pethes Dáviddal, a Gen6 vezérigazgatójával beszélgetett arról, mi történik akkor, amikor a deepfake-technológia már üzleti és pénzügyi kockázattá válik, és miért kerül egyre inkább előtérbe az adatok eredetének bizonyítása és a digitális szuverenitás kérdése.

Már nem az a kérdés, felismerjük-e a deepfake-et

A beszélgetés egyik kiindulópontja egy 2024-es eset volt, amikor az Arup egyik pénzügyi munkatársa 25,6 millió dollárt utalt el csalóknak, miután egy videókonferencián azt hitte, valódi kollégáival beszél. A támadók egyszerre több ember hangját és arcát másolták le, ráadásul valós időben.

Ez jól mutatja, hogy a deepfake már messze nem csak előre elkészített hamis videókat jelent. Egy támadás ma már élő beszélgetésként is megjelenhet, ráadásul éppen azokra az elemekre építve, amelyek korábban hitelességet sugároztak: ismerős arcokra, hangokra és vállalati kontextusra.

A probléma egyik oka, hogy a támadók számára bőséges alapanyag áll rendelkezésre. Vezetők, szakértők és vállalatok évek óta arra törekednek, hogy minél láthatóbbak legyenek az interneten. LinkedIn-posztok, konferenciafelvételek, podcastok és videók mind olyan adatforrásokká válhatnak, amelyekből hitelesnek tűnő másolat készíthető.

A detektálási versenyt egyre nehezebb megnyerni

Pethes Dávid szerint a klasszikus megközelítés, amely a hamis tartalom felismerésére épít, hosszú távon nem elég megbízható. A generáló technológiák ugyanis jellemzően gyorsabban fejlődnek, mint azok az eszközök, amelyek megpróbálják kiszűrni őket.

A műsorban elhangzott, hogy még a legjobb detektorok is csak korlátozott pontossággal dolgoznak, egy újabb és élethűbb modell megjelenése pedig rögtön ronthatja ezt az arányt. Mire egy deepfake-ről biztosan kiderül, hogy hamis volt, addigra a kár már rég megtörténhet.

Ezért egyre fontosabbá válik az úgynevezett provenance, vagyis eredetbizonyítás. Ennek lényege nem az, hogy megpróbáljuk kitalálni, hamis-e egy tartalom, hanem az, hogy bizonyítani tudjuk, honnan származik.

Ha egy dokumentum, videó vagy üzenet hiteles digitális aláírással rendelkezik, akkor ellenőrizhetővé válik, hogy valóban attól a személytől vagy szervezettől érkezett-e, akinek tulajdonítják. Ez binárisabb, egyszerűbb kérdéssé alakítja a problémát: nem azt kell eldönteni, hogy „vajon ez deepfake?”, hanem azt, hogy „bizonyítható-e a forrása?”.

Az identitás feletti kontroll válhat az új alapértékké

A Gen6 megközelítése az eredetbizonyítást decentralizált identitással kapcsolja össze. A rendszer különbséget tesz ember, szervezet és gépi vagy AI-identitás között, és ezekhez eltérő ellenőrzési folyamatokat rendel.

A cél az, hogy egy digitális identitás ne kizárólag egy központi platformhoz tartozzon. A felhasználó saját kriptográfiai kulcsaival kezelhesse azt, és ezekkel tudja bizonyítani, hogy egy adott tartalom valóban tőle származik.

Ez a digitális szuverenitás egyik alapgondolata: ha a felhasználónál vannak azok a kulcsok, amelyekkel az identitása irányítható, akkor nagyobb kontrollja marad a saját digitális jelenléte felett. Ha viszont ezek egy központi szolgáltatónál vannak, akkor az identitás feletti tényleges kontroll is részben oda kerül.

A blokklánc ebben nem a teljes tartalmat tárolja, hanem bizonyítékként működik. A hitelesítési információ rögzíthető egy olyan elosztott rendszerben, amelyből utólag nem lehet egyszerűen eltüntetni vagy átírni a korábbi állításokat.

Néhány éven belül fordulhat a bizalmi alaphelyzet

A beszélgetés egyik érdekes felvetése az volt, hogy néhány éven belül megfordulhat az internetes tartalmakhoz való viszonyunk. Ma az emberek többsége még...