W skrzynce mailowej znajdujesz wiadomość z załączonym zdjęciem lub krótkim filmem. Natychmiast rozpoznajesz na nim siebie, choć w okolicznościach, które nigdy nie miały miejsca. Na dodatek przedstawiona sytuacja jest zdecydowanie intymna i krępująca.
Problem polega na tym, że jesteś jedyną osobą, która wie, że dołączona treść jest nieprawdziwa. Inni – nawet najbliższa rodzina czy przyjaciele, nie mówiąc o współpracownikach i dalszych znajomych – łatwo uwierzą w autentyczność kompromitującego materiału, ponieważ manipulacja dokonana na obrazie jest perfekcyjna. Patrzysz i czujesz ogarniającą cię panikę: czy ktoś zda sobie sprawę, że postać na zdjęciu czy filmie to fikcja?
Prawda czy fałsz?
W kolejnym scenariuszu odbiorcą zmanipulowanych materiałów nie jesteśmy my, ale dziecko. Nadawcą jest poznany niedawno „kolega” z jednego portali gamingowych, przyjęty już także do grona znajomych na portalach społecznościowych, a zatem mający dostęp do publikowanych tam zdjęć i filmów. Wiadomość, która została dołączona do przesłanych, kompromitujących materiałów, wzbudza w dziecku strach, wstyd i poczucie bezradności. Nieprawdziwe obrazy wyglądają na bardzo autentyczne.
Dziecko wpada w panikę. Ze strachu przed reakcją dorosłych, którzy nie zawsze wszystko rozumieją, nie dzieli się z nikim swoimi problemami. Próbuje poradzić sobie samodzielnie, bo przecież nowy znajomy oczekuje od niego tylko jednego prostego działania, więc potem problem zniknie… Chodzi o odesłanie innego intymnego zdjęcia, tym razem prawdziwego.
Niestety, dzieci łatwo ulegają dominacji psychicznej. Podporządkowują się, nie potrafiąc racjonalnie bronić się przed emocjonalnymi manipulacjami: Czy ktokolwiek uwierzy, że to nie ty jesteś na tym zdjęciu? A może przekonamy się, co powiedzą na to twoi rodzice i koledzy? Tak zaczynają się kłopoty, które mogą doprowadzić do podejmowania ryzykownych zachowań, zaburzeń emocjonalnych, depresji, a nawet do prób samobójczych.
Oba powyższe scenariusze są niestety prawdziwe, choć zostały pozbawione drastycznych szczegółów i informacji na temat tego, gdzie i kiedy miały miejsce. W najbliższym czasie spodziewamy się, że takich historii pojawi się jednak znacznie więcej. Wystarczy przypomnieć:
Dzięki generatywnej sztucznej inteligencji tworzenie fałszywek stało się proste
W ostatnich dwóch latach nastąpił ogromny postęp technologiczny w dziedzinie tzw. generatywnej sztucznej inteligencji. Słowo „generatywna” w tym kontekście oznacza: tworząca nowe treści tekstowe, wizualne i dźwiękowe. To, co jeszcze do niedawna – w odniesieniu do realistycznych obrazów – było jedynie w zasięgu specjalistów zajmujących się grafiką komputerową, dzisiaj nie stanowi już wyzwania dla osób, które nie dysponują specjalnymi umiejętnościami, oprogramowaniem czy sprzętem. Każdy może – za pomocą słownej komendy (tzw. promptu), która jest przetwarzana przez program wykorzystujący modele sztucznej inteligencji – wygenerować niemal dowolną treść, w tym również wizualną.
Generatywna sztuczna inteligencja oferuje dziś (przełom 2023-2024 r.) możliwości:
Podsumowując: dostęp do naszych zdjęć, filmów i materiałów dźwiękowych, nawet w przypadku osoby mającej niewielkie doświadczenie w wykorzystaniu technologii AI, pozwala już dziś tworzyć realistyczne, choć fałszywe materiały audiowizualne, niekoniecznie o neutralnym charakterze.
Oczywiście, należy pamiętać o tym, że sztuczna inteligencja daje ogromne możliwości tworzenia wszelkiego rodzaju materiałów wykorzystywanych w celach biznesowych, edukacyjnych, a także rozrywkowych. To ogromny krok naprzód w świecie nowych rozwiązań służących człowiekowi. Niestety, tego typu rozwiązania technologiczne są także szybko adaptowane do celów przestępczych oraz do wszelkiego rodzaju nadużyć.
Co gorsze, nie istnieją obecnie niezawodne i szybkie metody pozwalające na stuprocentową identyfikację treści wygenerowanych przez generatywną sztuczną inteligencję. Wykrycie oszustwa, polegającego na spreparowaniu zdjęcia lub filmu przedstawiającego czyjś wizerunek w szkodliwym kontekście, bywa zatem czasochłonne. A to oznacza, że szkody moralne, psychiczne, czy finansowe zamierzone przez sprawcę mogą być ogromne.
Dorośli obrońcy
Rola osób dorosłych polega na uświadomieniu dzieciom i młodzieży, że w obecnej rzeczywistości potrzebny jest zdecydowanie większy dystans i daleko idąca ostrożność w kontaktach z osobami z cyberprzestrzeni. Internet zapewnia dużą anonimowość, z czego korzystają przestępcy szukający różnych sposobów na zdobycie zaufania naszych dzieci.
Jeżeli natomiast zdarzy się, że nasze zdjęcia czy nagrania zostaną wykorzystane do wygenerowania materiałów, na których jesteśmy przedstawieni w fikcyjnych sytuacjach, nie wpadajmy w panikę i nie dajmy się zmanipulować przez ewentualnych sprawców.
Zgłośmy sprawę Policji lub do Dyżurnet.pl.
¹ https://www.reuters.com/world/europe/spanish-prosecutor-probe-ai-generated-images-naked-minors-2023-09-25/
² https://www.theguardian.com/global-development/2023/nov/27/uk-school-pupils-using-ai-create-indecent-sexual-abuse-images-of-other-children
