Pod koniec stycznia tego roku Komisja Europejska uruchomiła nowe formalne dochodzenie przeciwko platformie X  na podstawie Aktu o Usługach Cyfrowych (DSA) oraz rozszerzyła wcześniejsze postępowanie, wszczęte w grudniu 2023 roku, dotyczące systemów rekomendacji platformy – ze względu na niedawno ogłoszone przejście na system rekomendacji oparty na modelu sztucznej inteligencji Grok. Przedmiot nowego dochodzenia obejmuje ocenę, czy X  właściwie zbadał i ograniczył ryzyka związane z wdrożeniem Groka na platformie w UE, przede wszystkim zagrożenia związane z rozpowszechnianiem nielegalnych treści – w tym spreparowanych grafik o charakterze seksualnym, a nawet materiałów przedstawiających seksualne wykorzystanie dzieci (CSAM). Komisja będzie badać, czy X  wywiązał się ze swoich obowiązków wynikających z DSA, tj. czy rzetelnie ocenił i zminimalizował ryzyka systemowe przed wdrożeniem nowego systemu AI, oraz czy sporządził i przekazał Komisji wymagany raport oceny ryzyka. W razie potwierdzenia naruszeń, X  może zostać ukarany. Warto przypomnieć, że w grudniu 2025 roku X  został już ukarany grzywną w wysokości 120 milionów euro za inne naruszenia DSA.

Obecnie Urząd Komunikacji Elektronicznej, pełniący funkcję polskiego Koordynatora ds. Usług Cyfrowych, gromadzi informacje dotyczące zdarzeń zaobserwowanych na terenie kraju, mogących wskazywać na naruszenie przepisów DSA przez platformę X  wskutek wdrożenia w jej ramach funkcji Grok. Dyżurnet.pl, jako punkt kontaktowy do zgłaszania nielegalnych i szkodliwych treści w internecie, w szczególności związanych z wykorzystaniem seksualnym małoletnich, zwracał już wcześniej uwagę na rosnący problem treści CSAM generowanych z użyciem AI. Nie jest to jedyne zagrożenie związane z generatywną sztuczną inteligencją. Pozbawione odpowiednich zabezpieczeń czatboty mogą generować treści nieadekwatne do wieku odbiorcy – niekiedy także o charakterze seksualizującym lub w inny sposób szkodliwym. Ze względu na probabilistyczny sposób działania takich systemów, ich wypowiedzi nie są w pełni przewidywalne, a ich użycie przez dzieci powinno przebiegać pod nadzorem opiekuna. Jedną z alarmujących sytuacji zgłoszonych do Zespołu była niepokojąca interakcja pomiędzy czatbotem Grok a dzieckiem w wieku przedszkolnym. Rodzic poinformował, że podczas wspólnej zabawy z wykorzystaniem funkcji rozmowy głosowej w aplikacji, system AI w sposób nagły i nieuzasadniony tematem rozmowy zaczął zadawać pytania dotyczące ubioru oraz stref intymnych dziecka. Zaniepokojony rodzic natychmiast przerwał interakcję i zdecydował się zgłosić zdarzenie do Dyżurnet.pl. Taka sytuacja wyraźnie pokazuje, że czatboty AI nie są przeznaczone do korzystania przez dzieci, w szczególności te najmłodsze – ważne jest stałe monitorowanie rozmowy i w razie potrzeby – interwencja. Dzieci i młodzież będące w wieku intensywnego rozwoju umiejętności społecznych nie powinny nawiązywać „relacji” z narzędziami, które mają skłonność do bezkrytycznego potwierdzania przekonań użytkownika (tzw. sykofancja AI) oraz potencjalnego generowania treści niebezpiecznych lub seksualizujących.

W przypadku natrafienia na niepokojące sytuacje związane z wykorzystaniem narzędzi AI, w szczególności gdy mogą one dotyczyć krzywdzenia dzieci, należy niezwłocznie przerwać interakcję oraz zgłosić problem, do moderacji platformy lub do zespołu Dyżurnet.pl. Warto zachować dostępne dowody, np. zrzuty ekranu, zapis rozmowy czy też adres niepokojącej witryny – pomoże to zespołowi w eskalowaniu sytuacji do dostawcy usługi lub odpowiednich służb. Szybka reakcja użytkowników informujących o niepokojących zdarzeniach jest kluczowa – stanowi podstawę do dalszych kroków prawnych i technologicznych, mających na celu poprawę standardów bezpieczeństwa w sieci.