Někdo může zneužít váš hlas i obličej a z vašich nejbližších podvodem vylákat peníze anebo vytvořit video, ve kterém vás šéf žádá o rychlý převod peněz. Sci-fi? Ani ne. Vítejte v době, kde AI hýbe světem. Jak to vypadá, když AI pracuje ve službách temné strany, a kdo už na to doplatil?
Umělá inteligence má bezesporu celou řadu výhod. Umožňuje nám pracovat rychleji, efektivněji a posouvat hranice produktivity. Jenže kde je světlo, bývá i stín. AI totiž není jen šikovný pomocník, ale také nástroj, který dokáže manipulovat s realitou způsoby, jaké jsme dosud znali spíš z filmů nebo seriálu Black Mirror. A co je možná nejznepokojivější – dnes je tato technologie dostupná komukoliv, ale ne každý ji využívá pro blaho společnosti. V tomto článku se podíváme na to, co všechno dokáže AI, když se ocitne na temné straně.
Deepfake pomocí AI aneb od finančních podvodů k fake pornu
Projevy, které politici nikdy neměli. Miliony mizící z firemních účtů během pár minut. A osobní útoky na celebrity, co jim berou klid, soukromí i duševní zdraví.
Deepfake (z anglického deep learning + fake) označuje realisticky vytvořené nebo upravené mediální výstupy , které zobrazují osobu dělající nebo říkající něco, co ve skutečnosti neudělala nebo neřekla, přičemž výsledek vypadá zcela přesvědčivě.
Vzpomeňme si třeba na kauzu s Taylor Swift z ledna 2024. Falešné pornografické obrázky Taylor Swift, vytvořené bez jejího vědomí a souhlasu, se začaly šířit na platformě X i v telegramových skupinách jako rakovina. Jediný tweet s těmito obrázky zaznamenal přes 45 milionů zhlédnutí. Odstraněn byl až poté, co síť X začala obrázky aktivně mazat, a dokonce dočasně zablokovala vyhledávání jména „Taylor Swift“.
A co taková politická scéna? Tam může být AI taky pořádný průšvih a dokáže zahýbat s veřejným míněním nebo třeba účastí voličů ve volbách. Před loňskými volbami ve Velké Británii experti odhalili více než 100 deepfake videí s tváří britského premiéra Rishiho Sunaka. Kampaně se objevily prostřednictvím sponzorovaných reklam na Facebooku a oslovily odhadem až 400 000 lidí. Problém je, že Facebook mnoho z nich neodstranil. Sociální sítě zkrátka na AI hrozby nejsou dostatečně připravené.
Poznáte, co je na obrázku špatně? Jedná se o ukázku podvodné reklamy, která zneužívá jméno premiéra Rishiho Sunaka a vzhled známých médií k propagaci falešných investičních platforem. Obsahuje smyšlené citace i recenze a snaží se působit důvěryhodně, aby nalákala uživatele k investicím.
AI a phishing. Když podvodníci umí hezky česky
Dřív byl phishing jednoduše rozpoznatelný. Phishingové e-maily kdysi bývaly plné gramatických chyb a špatného pravopisu. Každý trochu všímavější člověk po přečtení takové zprávy ihned zpozorněl. Jenomže dnes se díky AI gramatické chyby vytratily. Špička phishingové zločinnosti směřuje k BEC – Business Email Compromise, kdy AI napíše e-mail a rozešle ho s logem konkrétní firmy nebo konkrétním jménem a šablonou, kterou se inspiroval třeba na LinkedInu.
Tím obelhávání smyslů ale nekončí. AI totiž dokáže ošálit jak zrak, tak i sluch.Představte si, že vám večer zazvoní telefon a na druhé straně uslyšíte naléhavý hlas svého šéfa. Ten žádá okamžitý převod velké částky. V telefonu zní rozrušeně, používá pro něj typické fráze, dokonce zmiňuje včerejší meeting. Jenže… na druhé straně drátu vůbec není váš šéf, ale podvodník, který použil voice deepfake.
Voice deepfake je synteticky vytvořená nebo upravená nahrávka lidského hlasu, která pomocí umělé inteligence imituje konkrétního člověka tak věrně, že může znít nerozeznatelně od originálu.
Než se nadějete, finanční podvod je na světě. A nemusíme zůstávat jen v pracovním prostředí. Stejně tak vám může volat kamarád nebo někdo z rodiny. V tomto případě možná ani nepozvednete obočí a žádost o převod peněz vyřídíte dřív, než byste řekli voice deepfake.
Jak se bránit proti AI ve službách temné strany?
Boj s temnými stránkami AI je výzva pro každého z nás, běžné uživatele, firmy i marketingové specialisty. Zlaté pravidlo zní: nevěřte všemu, co vidíte a slyšíte, a vždy si ověřujte informace z více zdrojů. Nebuďte impulzivní při sdílení obsahu na sociálních sítích, v opačném případě hrozí, že nevědomky pomůžete šířit fake news.
Firmy musí investovat do edukace svých zaměstnanců. V externí komunikaci firmy pak hrají zásadní roli marketingoví profesionálové. Musí vytvářet obsah s důrazem na autenticitu, ctít etiku a zároveň být připraveni rychle reagovat na možné dezinformace, které by mohly poškodit reputaci značky.
Pamatujete na epizodu z Black Mirror „Be Right Back“, kde si mladá žena po partnerově smrti nechá vytvořit jeho digitální kopii? Přesně na tomhle principu dnes fungují voice deepfakes a další výstupy umělé inteligence. Z několikaminutového záznamu hlasu umí vytvořit věrnou kopii, která vás nejen dokonale napodobí, ale možná i předčí – bude pohotovější, důvěryhodnější, přesvědčivější, než jste vy sami. A právě to je ta největší hrozba. AI dnes není jen chytrý nástroj. Je to zrcadlo, které dokáže ohnout realitu tak, aby jí ostatní uvěřili. Tak mějme oči na stopkách.
