Vzostup hlbokých falzifikátov a ich zastavenie

Technológia umelej inteligencie (AI) priniesla so sebou mnoho pokrokov, ale aj nové výzvy. Jednou z najväčších je vznik a šírenie hlbokých falzifikátov – realistických, digitálne upravených obrázkov a videí, ktoré sa stávajú čoraz ľahšie vytvárateľnými. V tomto článku si prejdeme, ako tieto falzifikáty vznikajú, aké škody môžu spôsobiť, a čo môžeme urobiť na to, aby sme ich zastavili. Video od Financial Times nám ponúka fascinujúci pohľad do tejto problematiky.

Ako sa vytvárajú hlboké falzifikáty?

Vytvorenie hlbokého falzifikátu je dnes jednoduchšie ako kedykoľvek predtým. Stačí si stiahnuť aplikáciu do smartfónu a použiť ju na kombináciu videonahrávky s fotografiou tváre. AI algoritmy dokážu potom tieto prvky spojiť tak, aby vznikol presvedčivý falzifikát. Tento proces je tak jednoduchý, že ho zvládne aj laik.

Hlboké falzifikáty a podvody

Hlboké falzifikáty nie sú len zábavnou technológiou. Zlodeji ich využívajú na podvody a finančné úlety. Ako ukazuje video, dokonca sa stáva, že aj renomovaní novinári ako Martin Wolf z Financial Times sa stal obeťou deepfake podvodov, ktoré dosiahli milióny divákov na sociálnych sieťach.

Detekcia hlbokých falzifikátov: Ľudské oko vs. AI

Rozlíšenie medzi skutočným a falošným videom môže byť náročné. Aj keď ľudia často prehliadajú jemné detaily, ako sú neobvyklé pohyby rúk (ako upozorňuje spoločnosť Pindrop), AI algoritmy dokážu tieto anomálie ľahšie odhaliť.

Predchodcovia hlbokých falzifikátov: Rubber Mask Scams

Už predtým, ako sa objavila AI, existovali podvody založené na maskách. Gilbert Chikli, známy ako „Rubber Mask Scammer“, oklamal milióny ľudí použitím jednoduchých gumových masiek a získal obrovské zisky. Táto história ukazuje, že podvodníci vždy hľadajú nové spôsoby, ako oklamať ľudí.

Anthrotek: Realistické masky pre film a podvody

Spoločnosť Anthrotek vytvára hyperrealistické masky pre filmový priemysel. Ich technológia však môže byť zneužitá aj na podvody, čo zdôrazňuje potrebu zodpovedného používania týchto technológií.

„Mačka a myš“: Hra medzi tvorcami a detektormi falzifikátov

Vývoj hlbokých falzifikátov a ich detekcie je neustála hra. Ako sa zlepšujú algoritmy na vytváranie falošných videí, vyvíjajú sa aj metódy na ich odhalenie.

Problémy s ochranou identity online

Pre jednotlivcov, najmä pre ženy, je ťažké zabrániť tomu, aby boli ich fotografie a videá použité v hlbokých falzifikátoch.

Riešenia: Content Provenance a digitálne vodoznaky

Na boj proti šíreniu falošných informácií sa vyvíjajú rôzne riešenia, ako napríklad Coalition for Content Provenance and Authenticity (C2PA) a digitálne vodoznaky. Tieto technológie majú za cieľ vytvoriť spoľahlivé spôsoby overovania obsahu online.

Označovanie AI obsahu: Kľúč k autenticite

Označovanie obsahu vytvoreného pomocou AI je dôležitým krokom k zvýšeniu transparentnosti a pomoci používateľom pri rozlíšení skutočného od falošného. Meta však čelila kritike za označovanie aj drobných úprav, čo viedlo k protestom medzi filmovými tvorcami a fotografmi.

Regulácia AI: Rozdiely medzi USA a Európou

Zatiaľ čo Spojené štáty mieria k deregulácii AI, Európa, najmä prostredníctvom EU AI Act, kladie dôraz na povinné transparentné opatrenia a považuje overovanie za ľudské právo online. Kalifornský zákon navrhuje umožniť jednotlivcom kontrolu nad používaním ich podoby.

Zodpovednosť a budúcnosť AI

Je dôležité nepodliehať presvedčeniu, že vývoj AI je nevyhnutný a nekontrolovateľný. Novinári, tvorcovia videí a ľudskoprávni aktivisti by mali aktívne pracovať na tom, aby sa AI využívala zodpovedne.

Kľúčové poznatky

• Hlboké falzifikáty sú čoraz ľahšie vytvárateľné a predstavujú vážnu hrozbu pre spoločnosť.
• Detekcia hlbokých falzifikátov je náročná, ale AI algoritmy môžu pomôcť odhaliť anomálie, ktoré ľudské oko prehliadne.
• Je potrebné vyvíjať a implementovať technológie na overovanie obsahu online, ako sú digitálne vodoznaky a označovanie AI obsahu.
• Regulácia AI by mala zohľadňovať potrebu transparentnosti a ochrany ľudských práv.
• Každý jednotlivec má zodpovednosť prispieť k zodpovednému využívaniu AI technológií.

Záver

Hlboké falzifikáty predstavujú komplexnú výzvu, ktorá si vyžaduje koordinovanú odpoveď od technologických spoločností, vlád a jednotlivcov. Je dôležité zvyšovať povedomie o tejto hrozbe a aktívne sa podieľať na vytváraní prostredia, kde je skutočnosť ľahko rozpoznateľná a falošné informácie sú efektívne potláčané. Budúcnosť online komunikácie závisí od toho, ako sa s touto výzvou vysporiadame.

Zdroje

• Originálne video
• ft.com
• Finančný üročník
• youtube.com
• Podcasty FT
• Finančné noviny @financialtimes • Fotografie a videá na Instagrame
• TikTok – Zataj svoj deň

Približne 150 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.75 l vody za účelom vygenerovania tohoto článku.