Prawda czy fałsz: rozpoznawanie deepfake’ów na co dzień

Deepfake’i postrzegane są jako jedno z głównych zagrożeń niesionych przez rozwój AI. Realistyczne, acz nieprawdziwe obrazy pojawiające się w mediach powodują zatracanie się granicy między rzeczywistością a fikcją, prawdą a kłamstwem.

„Ofiarą” fałszerzy może zasadniczo paść wszystko, co cyfrowe. Niestety nadeszły czasy, kiedy należy zawsze zastanawiać się nad źródłem filmu, czy zdjęcia są autentyczne, zwłaszcza jeśli przedstawiają one istotne treści, np. polityczne oświadczenia lub jakieś kontrowersje. Czy jest jakiś sposób, by umieć rozpoznawać deepfake’i ? Oto co radzą eksperci.

Deepfake – rozpoznawanie materiałów audio

Pilny telefon, z prośbą znajomego o przelanie znacznej sumy pieniędzy albo zniechęcający cię do udziału w ważnym wydarzeniu, np. wyborach? To może być deepfake. Zwróć uwagę na:

• ton głosu: monotonna, płaska barwa głosu. W przeciwieństwie do naturalnej mowy, która ma swoje fluktuacje związane z emocjami, audio deepfake może nie mieć tych wahań
• wskazówki konwersacyjne: zwróć uwagę na brak naturalnych znaczników konwersacji, na przykład nieregularne wzorce oddychania lub brak dźwięków oddechu przed mówieniem
• dźwięki tła: brak lub nadmiar szumów tła, często dodawanych w celu symulacji autentyczności, może być właściwie sygnałem ostrzegawczym.

Audio deepfake’i są trudniejsze do wykrycia od materiałów wizualnych, ponieważ można polegać wyłącznie na słuchu (a większość ludzi to wzrokowcy) i łatwiejsze do wygenerowania, ponieważ istnieje mnóstwo przykładów głosów znanych osób, których AI może użyć.

Deepfake – rozpoznawanie zdjęć

• przyjrzyj się detalom w zbliżeniu: elementy, które wydają się nierealne, jak architektoniczne struktury o mało prawdopodobnych kątach czy ludzie mający o jeden palec za dużo, mogą sygnalizować fałszerstwo
• w sposobie ukazania włosów, ust, a nawet cieni, możesz odkryć wskazówki wskazujące na nieautentyczność zdjęcia, zwłaszcza gdy coś wydaje się zbyt doskonałe, jak dzieło sztuki. Obrazy, które mają nienaturalny połysk lub zanadto przypominają obraz, powinny wzbudzić podejrzenia — prawdziwe życie nie jest błyszczące i bez skazy. AI czasami nie trafia w subtelne faktury i niedoskonałości, które tworzą naszą rzeczywistość.
• wykonanie zwrotnego wyszukiwania obrazem może być praktycznym krokiem w weryfikacji źródła zdjęcia. Pomaga to sprawdzić, czy fotografia pojawia się gdzie indziej lub czy została zmodyfikowana.

Deepfake – rozpoznawanie materiałów wideo

Filmy z kolei, zwłaszcza te z ludźmi, są najtrudniejsze do sfałszowania z uwagi na większą liczbę danych wejściowych. W przypadku niektórych filmów bez postaci, może być jednak trudniej stwierdzić, czy są prawdziwe, chociaż nie są one “deepfake’ami” w tym sensie, że termin ten zwykle odnosi się do fałszowania wizerunków ludzi. Co może zdemaskować film deepfake:

• zacznij od uważnej obserwacji ust, np. jeśli zauważysz, że formują one dźwięki liter takich jak „B” lub „P” bez całkowitego zamknięcia, może to być sygnał ostrzegawczy. Autentyczna mowa ludzka wymaga precyzyjnych ruchów, których AI często nie potrafi doskonale naśladować
• skup się również na światłach i cieniach. W filmach zmanipulowanych przez AI oświetlenie może wyglądać nienaturalnie lub nie być spójne z otoczeniem. Również odcień skóry może wydawać się nienaturalny – szukaj takich cech, które nie pasują do warunków oświetleniowych
• zwróć uwagę na częstotliwość mrugania. Jeśli wydaje się one zbyt częste lub rzadkie, lub jeśli oczy wykazują oznaki pikselizacji, mogą to być oznaki cyfrowej ingerencji. Oczy, szczególnie ruchy powiek, są niezwykle złożone i mogą stanowić wyzwanie dla technologii deepfake

Czy rozpoznawnie deepfake’ów to walka z wiatrakami?

No dobrze, ostrożności nigdy zbyt wiele, ale uważam, że to jest trochę walka z wiatrakami. Po pierwsze nie każdy jest aż tak spostrzegawczy, by wychwycić tego typu niuanse, poza tym uważne analizowanie wszystkiego nie leży w naszej naturze – w sytuacjach dnia codziennego reagujemy szybko i instynktownie. Znając ludzi, większość po prostu nie będzie miała czasu, ani ochoty na takie „zabawy”.

Po drugie nieustanna czujność i kwestionowanie tego, co widzą nasze oczy, odbierają nasze zmysły to gotowy przepis na szaleństwo. Wreszcie technologia będzie się doskonalić i rozpoznanie fałszywek na własną rękę, dysponując tylko własnymi zmysłami, stanie się po prostu niemożliwe. Człowieka musi tu wspomóc technologia (i vice versa), więc w odpowiedzi na zjawisko deepfake’ów powstają narzędzia pomagające je identyfikować (podobnie zresztą jak narzędzia identyfikujące ogólnie materiały stworzone przez AI).

Narzędzia wykrywające deepfake’i to całkiem niezła pomoc

Jednym z takich polecanych narzędzi jest DeepFake-o-meter, stworzony przez Siwei Lyu z Uniwersytetu w Buffalo. Narzędzie to jest darmowe i na bazie open-source. Na ten moment „wykrywacze deepfake’ów” są mocno niedoskonałe. Różne aplikacje cechują się różną skutecznością, np. kiedy analizowano wideo z fałszywym oświadczeniem Joe Bidena, tylko jeden z detektorów wskazał większe niż 50% prawdopodobieństwo ingerencji AI. Pozostałe cztery oznaczyły prawdopodobieństwo od 0,2% do 46,8%.

Dłuższa wersja rozmowy spowodowała, że trzy z pięciu detektorów wskazały więcej niż 90% prawdopodobieństwa deepfake’u. Eksperci ds. AI prognozują, że w przyszłości oprogramowanie chroniące przed deepfake’ami będzie równie popularne, co dziś programy antywirusowe (antywiry są de facto już wbudowane w systemy operacyjne).

Każda oficjalna strona, której wiarygodność jest kluczowa, jak strony rządowe, mediów, firm oraz instytucji, będą wspomagane detektorami deepfake’ów. Innym pomysłem na radzenie sobie z deepfake’ami jest zastosowanie technologii blockchain do uwierzytelniania wszystkich materiałów wrzucanych do sieci.