Jak rozpoznać deepfake i nie dać się nabrać na dezinformację AI

Chciałbyś narzędzie, które powie: "to fałszywka", ze stuprocentową pewnością. Źródła są zgodne, że takiej gwarancji nie ma. Nie zostajesz jednak bezbronny. Działa zestaw prostych nawyków, które sprawdzają się nawet wtedy, gdy oko nie wyłapie podróbki.

Czy da się mieć pewność, że nagranie jest prawdziwe?

Nie da się. Autorzy poradnika New America mówią to wprost: nie można zagwarantować pewnej identyfikacji cyfrowej fałszywki, ale nie wolno też rozkładać rąk. Podstawowa higiena cyberbezpieczeństwa nadal bardzo pomaga:

• chroń swoje hasła,
• włącz uwierzytelnianie wieloskładnikowe,
• omijaj podejrzane linki,
• nie podawaj wrażliwych danych online.

Zdrowy sceptycyzm to według tego samego źródła fundament, a wizualne wskazówki są dodatkiem. Malwarebytes dodaje, że postęp w AI poprawia wykrywanie fałszywek, ale znajomość ich wskaźników nadal jest niezbędna. Obrona wymaga więc podejścia wieloaspektowego: technologii, egzekwowania przepisów i świadomej czujności.

Dlaczego fałszywki są wszędzie

Bo ich produkcja jest tania. Według WEF twórcy deepfake'ów nie potrzebują dziś wiedzy technicznej ani grubego portfela. Badacz stojący za projektem Countercloud użył ogólnodostępnych narzędzi AI i zautomatyzował całą kampanię dezinformacyjną za mniej niż 400 USD miesięcznie (to była kampania badawcza, ale mechanizm pokazuje skalę). Ten sam raport podkreśla, jak tanio i łatwo można dziś prowadzić takie kampanie na dużą skalę.

Na co patrzeć w filmie i na zdjęciu?

Deepfake'i bez widocznych wad są coraz częstsze, ale wciąż warto sprawdzić oczywiste ślady. Większość fałszywek przedstawia ludzkie twarze, a modele AI nadal miewają problemy z drobnymi detalami włosów i faktury skóry. Z poradników, które zebrały źródła, wynika taka lista kontrolna:

• Oświetlenie: dziwne światło bez wyraźnego źródła i nietypowe połyski (wskazówka MIT).
• Rysy twarzy: rozmyte lub zniekształcone (poradnik American Bankers Association i FBI).
• Usta i oczy: dziwne ruchy ust lub mruganie, błędy synchronizacji dźwięku z ruchem warg (ABA, FBI, HBS).
• Mimika: nienaturalne ruchy twarzy albo gesty wyglądające na robotyczne i przesadzone (HBS).
• Krawędzie: nienaturalne rozmazania wokół brzegów twarzy, włosów i biżuterii na zdjęciach (HBS).

Brak takich śladów niczego nie dowodzi. To tylko pierwszy filtr, po nim przychodzi weryfikacja.

Jak zweryfikować alarmującą wiadomość albo prośbę o pieniądze?

Tu wygrywa nawyk, nie talent do wypatrywania pikseli. New America przypomina, że nic nie jest wiarygodne w próżni, a zawsze da się sprawdzić inne źródło.

Viralowe wideo i polityczne bomby

• Sprawdź, czy ten sam materiał podają inne wiarygodne media, i cofnij się do ich źródeł.
• Ufaj treściom z rzetelnych redakcji.
• Użyj narzędzi weryfikacyjnych wskazanych przez HBS: Snopes, Reuters Fact Check albo Google Reverse Image Search.
• Jeśli platforma pokazuje podejrzaną treść, zgłoś ją (zaleca to Malwarebytes).

Przegląd narzędzi do wykrywania treści AI znajdziesz w tekście o wykrywaniu treści generowanych przez AI. Malwarebytes mówi, że najskuteczniejsza jest kombinacja świadomości i narzędzi, więc jedno bez drugiego to połowa zabezpieczenia.

Telefon lub wiadomość od "znajomego"

Dostajesz nagranie głosowe z pilną prośbą o przelew? Zanim odpowiesz, spróbuj potwierdzić, że to naprawdę on. Zadzwoń na znany numer albo napisz na innym komunikatorze. Dotyczy to też niespodziewanego, alarmującego SMS-a: skontaktuj się z nadawcą inną drogą.

Dobrze działa też umowa z rodziną i przyjaciółmi na słowa-kody. HBS nazywa je "bezpiecznymi słowami" i zaleca używać ich także w podróży. Ustalasz jedno hasło, którego nie ma w żadnym wpisie w sieci, i prosisz o nie, gdy ktoś bliski nagle potrzebuje pieniędzy (cyfrowy odpowiednik pytania kontrolnego, tyle że bez ankiety).

Jak utrudnić stworzenie deepfake'a z Ciebie?

Według HBS przestępcy trenują modele AI na dużych zbiorach zdjęć, nagrań wideo i głosu ofiary. Im więcej takich materiałów jest w sieci, tym łatwiej zrobić przekonującą podróbkę. Stąd kilka praktycznych ruchów:

• zastanów się, co publikujesz i kto ma do tego dostęp,
• rozważ cyfrowy znak wodny na zdjęciach i filmach, bo według National Cybersecurity Alliance może zniechęcać twórców deepfake'ów, ponieważ utrudnia ukrycie ich działań,
• chroń dane wrażliwe, bo jeśli Twój głos i dane trafią w niepowołane ręce, oszust może użyć sfałszowanego audio do kontaktu z bankiem (przykład z NCA).

Dane osobowe w świecie AI to szerszy temat. Wątek ochrony danych wrażliwych poruszamy też w tekście o planach zakazu sprzedaży danych zdrowotnych firmom AI.

Czy edukacja medialna i przepisy wystarczą?

WEF opisuje badania, według których edukacja medialna może chronić społeczeństwo przed dezinformacją napędzaną AI, bo zmniejsza skłonność do udostępniania deepfake'ów. Zaleca uczyć jej od wczesnych lat: rozpoznawania treści prawdziwych i spreparowanych, rozumienia, jak deepfake'i są dystrybuowane, oraz taktyk psychologicznych i socjotechnicznych, którymi posługują się oszuści. Nacisk ma być na krytyczne myślenie.

Same umiejętności użytkowników nie zamkną tematu. New America zaznacza, że instytucje muszą stworzyć ramy dla uczciwego i bezpiecznego użycia AI, a Malwarebytes wymienia egzekwowanie przepisów obok technologii i czujności. O tym, jak regulacje AI nabierają tempa, piszemy w tekście o rogue AI i przepisach. Do czasu, aż przepisy i narzędzia dogonią fałszerzy, Twoja czujność robi większość roboty.

Zrób jedną rzecz: umów się z najbliższymi na jedno słowo-kod i zapisz, że bez niego żadna pilna prośba o pieniądze przez telefon czy komunikator nie jest realizowana. To zajmuje kilka minut, nie wymaga żadnej aplikacji i działa także wtedy, gdy deepfake'a nie widać gołym okiem. Jeśli chcesz pójść dalej, zajrzyj do naszego przeglądu narzędzi do wykrywania treści AI.