Czym jest deepfake? Odróżnij wygenerowane media, zmienioną tożsamość i fałszywy kontekst

Zacznij od opisu dokładniejszego niż „fałszywe”

NIST używa pojęcia treści syntetycznych jako szerokiej kategorii materiałów wygenerowanych lub istotnie zmienionych przez algorytmy, w tym AI. W raporcie o przejrzystości śledzenie pochodzenia, znaki wodne i wykrywanie opisano jako różne podejścia. Ten poradnik proponuje praktyczny podział pomagający wybrać kolejną kontrolę; nie jest to definicja prawna ani twierdzenie, że każdy edytowany obraz jest deepfake’em.

Przy podmianie tożsamości zapytaj, czy do występu wstawiono twarz lub głos istniejącej osoby. Przy wygenerowanej osobie lub scenie sprawdź, czy przedstawienie pochodzi z modelu, a nie z deklarowanego nagrania wydarzenia. Przy zwykłej edycji określ kadrowanie, retusz lub montaż. Przy fałszywym kontekście porównaj miejsce, datę i wydarzenie z podpisu ze źródłem nagrania. Jeden post może należeć do kilku kategorii.

Źródła: National Institute of Standards and Technology: Ograniczanie ryzyka związanego z treściami syntetycznymi (NIST AI 100-4)

Wybierz weryfikację na podstawie czterech fikcyjnych przykładów

Wyobraź sobie fikcyjnego burmistrza występującego w klipie. W wersji A scenę odgrywa aktor, a AI podmienia twarz: przejrzyj dokumentację produkcji i oryginalną wypowiedź domniemanego mówcy. W wersji B wymyślona postać czyta tekst oznaczony jako fikcyjny: zachowaj tę informację twórcy razem z klipem. Żadna wersja nie dowodzi, że prawdziwy urzędnik wypowiedział te słowa.

W wersji C autentyczne nagranie urywa się, zanim mówca powie „to twierdzenie jest nieprawdziwe”. Znajdź całe zdanie. W wersji D prawdziwy materiał z ubiegłego roku jest podpisany jako dzisiejsze wydarzenie. Wyszukaj rozpoznawalny kadr i porównaj wcześniejszą publikację. Funkcja Google pokazująca kontekst obrazu może wskazać wcześniejsze użycia lub podobne obrazy, co pomaga przy tym ostatnim pytaniu.

Źródła: Google Search Help: Więcej informacji o obrazie

Przygotuj krótki zapis dowodów

Użyj poniższego autorskiego schematu dla jednego twierdzenia i jednego konkretnego pliku. Przypisz źródło każdej obserwacji, zamiast łączyć kilka słabych poszlak w pozornie mocniejszy werdykt. NIST podkreśla, że pojedyncza metoda zapewniania przejrzystości nie rozstrzyga każdego kontekstu; schemat wiąże każdą kontrolę z pytaniem, na które może odpowiedzieć.

1. Zapisz twierdzenie: kto rzekomo zrobił co, gdzie i kiedy?
2. Zachowaj adres URL źródła i oryginalny plik, jeśli są dostępne; odróżnij ponowną publikację lub zrzut ekranu od oryginału.
3. Nazwij podejrzewaną zmianę: tożsamość, wygenerowana scena, dźwięk, zwykła edycja lub podpis/kontekst.
4. Dobierz dowody: oświadczenie o produkcji, wcześniejsze nagranie, zgodny kadr, dane zapisane w obrazie lub obsługiwane podpisane poświadczenie.
5. Zapisz, co ustalono, co podważono i czego jeszcze nie sprawdzono. Niedostępna kontrola nie jest wynikiem negatywnym.

Źródła: National Institute of Standards and Technology: Ograniczanie ryzyka związanego z treściami syntetycznymi (NIST AI 100-4)

Oddziel pochodzenie od prawdziwości

Objaśnienie C2PA odróżnia pochodzenie pliku od zgodności przedstawionej sceny z faktami. Zapisana czynność edycyjna pomaga wyjaśnić produkcję, ale nie rozstrzyga każdego stwierdzenia w podpisie. Podobnie brak poświadczenia nie dowodzi, że plik został wygenerowany.

Załóżmy, że autentyczna fotografia przedstawia plan filmowy, a ponowna publikacja opisuje go jako prawdziwą sytuację kryzysową. Wniosek może wskazywać błędny kontekst bez twierdzenia, że zdjęcie wygenerowała AI. Z kolei fikcyjnej sceny AI, której charakter twórca jasno ujawnił, nie trzeba opisywać jako rzeczywistego wydarzenia przedstawionego bez takiej informacji. Dobieraj słowa zgodnie z dowodami, które rzeczywiście masz.

Źródła: Coalition for Content Provenance and Authenticity: Objaśnienie C2PA i Content Credentials, wersja 2.2

Pytania na ten temat