Zespół Dyżurnet.pl przyjmuje zgłoszenia dotyczące nielegalnych i szkodliwych treści, które zagrażają bezpieczeństwu dzieci. Przez 20 lat funkcjonowania przeanalizował blisko 200 tys. informacji przekazywanych przez użytkowników internetu oraz przez instytucje.
Katalog treści, którymi się zajmuje stale rozszerza się o nowe zjawiska.
Autorzy raportu przedstawiającego działania zespołu w 2025 r. zwracają szczególną uwagę na zagrożenia, jakie przyniósł rozwój sztucznej inteligencji. Umożliwił on bowiem generowanie materiałów przedstawiających seksualne wykorzystywanie dzieci (z ang. child sexual abuse material, CSAM) na podstawie obrazów prawdziwego dziecka lub wygenerowanej postaci dziecka.
Źródło: Raport Dyżurnet.pl
"Aplikacje nudyfikujące (pozwalające za pomocą technologii „rozebrać” osobę na zdjęciu) są powszechnie dostępne, łatwe w użyciu i popularne wśród młodzieży. Sprawcy wymieniają się nie tylko materiałami, ale również sposobami na ich wygenerowanie. Wszystkie powstające materiały mogą mieć postać zdjęcia, filmu, audio, tekstu lub streamingu (transmisji) online, chociaż najczęściej występują zdjęcia i filmy” – czytamy w dokumencie.
Zdjęcia dzieci w sieci. Co może się wydarzyć?
Rok 2025 przyniósł gwałtowny- blisko trzykrotny - wzrost liczby materiałów przedstawiających wytworzone lub przetworzone treści prezentujące seksualne wykorzystanie małoletniego.
Eksperci zwracają uwagę, że w poprzednich latach również obserwowali udział wygenerowanych komputerowo, realistycznych materiałów. Dało się je jednak odróżnić od realnych. Obecna technologia AI praktycznie uniemożliwia ocenę czy dany obraz jest realny czy został wytworzony. W związku z tym liczba takich materiałów może być jeszcze wyższa.
- Udostępniamy raport, który jasno pokazuje, że rośnie skala wykorzystania sztucznej inteligencji, by krzywdzić dzieci - mówi Radosław Nielek, dyrektor NASK komentując podsumowanie prac zespołu.
Martyna Różycka, kierowniczka Dyżurnet.pl odnosząc się do faktu, że coraz więcej CSAM to materiały, w których przestępcy wykorzystują sztuczną inteligencję podkreśliła:
- Mówiąc wprost - jeśli rodzic wrzuci do sieci zdjęcie swojego dziecka, to może się tak zdarzyć, że później twarz tego dziecka będzie wykorzystana w filmie o charakterze pornograficznym. Dla rodzica, jego dziecka, całej rodziny – to ogromny szok...
Sprawcy używają AI nie tylko do tworzenia treści, ale także do wymiany instrukcji i metod ich generowania. Szczególne zagrożenie stanowią chatboty symulujące relacje emocjonalne i romantyczne z dziećmi. Cyberprzestępcy wykorzystują AI, by skuteczniej uwodzić i manipulować dziećmi w sieci.
W raporcie zwrócono również uwagę, że znacząco rośnie udział komunikatorów internetowych w dystrybucji CSAM. Dla analityków i organów ścigania takie kanały wymiany nielegalnych treści są jeszcze trudniejsze do przeanalizowania. Ze względu na zamknięty lub szyfrowany charakter wielu rozmów, dostęp do tych treści jest bowiem ograniczony.
"Do tej pory współpraca z platformami opierała się na ich dobrej woli i była efektem wieloletniego dialogu prowadzonego przez Dyżurnet.pl. Wdrażanie przepisów DSA może to zmienić, wprowadzając większą odpowiedzialność platform za reagowanie na nielegalne treści" - czytamy.
Digital Services Act czyli Akt o usługach cyfrowych, to unijne rozporządzenie, którego głównym celem jest ograniczenie nielegalnych treści oraz nadużyć w sieci, a także większa odpowiedzialność platform.
Treści wytworzone przez same dzieci i młodzież
W raporcie Dyżurnet.pl podkreślono też, że niemal 20 proc. analizowanych przez zespół materiałów stanowiły treści wytworzone przez samych nieletnich. Intymne zdjęcia i nagrania trafiają do sieci, gdzie każdy może je powielić i udostępnić. Materiały takie powstają często w domach dzieci, co można ocenić m.in. po tle czy sposobie wykonania zdjęcia "z ręki". Zespół podkreśla jednak, że "samodzielnie" nie zawsze oznacza "dobrowolnie".
- Nie oceniajmy dzieci, które same udostępniają intymne treści z własnym wizerunkiem, ponieważ musimy pamiętać, że wiele z nich powstaje na skutek manipulacji przez dorosłych albo rówieśników - zaznacza Arkadiusz Michałowski z Dyżurnet.pl. - To także efekt szantażu seksualnego. Te materiały są później rozpowszechniane bez zgody zainteresowanych. To prawdziwe tragedie tysięcy dzieci w Polsce, które prowadzą do wtórnej wiktymizacji dziecka.
Przypominamy nasz wywiad na ten temat, który ukazał się na portalu opornografii.pl:
"Dzieci i młodzież coraz częściej produkują materiały, które są treściami pornograficznymi"
Prawo nie jest dostosowane
Zespół zwraca też uwagę, że problem CSAM generowanych przez sztuczną inteligecję jest bardzo istotny ze względu na następujące kwestie:
- Niedostosowanie obecnych zapisów prawnych. Niektóre państwa nie penalizują takich materiałów. Polski Kodeks karny zwraca uwagę na treści prezentujące "wytworzony albo przetworzony wizerunek małoletniego uczestniczącego w czynności seksualnej". Określenie to zawęża spektrum penalizowanych treści, które w pozostałych paragrafach tego artykułu określane są jako "pornograficzne". W praktyce oznacza to, że wygenerowane obrazy nagich osób w tzw. seksualnym pozowaniu mogą być traktowane jako legalne.
- Problem dla organów ścigania. Kryterium baseline używane przez INTERPOL dotyczy wyłącznie realnych dzieci, które należy jak najszybciej zidentyfikować, oddzielić od sprawcy seksualnych przestępstw i zapewnić im bezpośrednią pomoc. W przypadku treści generowanych przez AI może to wpływać na efektywność podejmowanych działań i nieskuteczne angażowanie zasobów.
- Materiały przetworzone czy wytworzone na podstawie innych zdjęć i filmów również są formą przemocy. Mogą również prowadzić do normalizacji zachowań seksualnych wobec dzieci oraz służyć manipulacji podczas nagabywania seksualnego. Ze względu na drastyczność materiały są takim samym obciążeniem dla analityków podczas ekspozycji na treści.
Cały raport Dyżurnet.pl za 2025 r. można pobrać tutaj.
Dyżurnet.pl przyjmuje zgłoszenia poprzez:
- formularz znajdujący się na stronie internetowej dyzurnet.pl
- adres mailowy dyzurnet@dyzurnet.pl
- aplikację mobilną mObywatel
Źródło: Dyżurnet.pl
Przypominamy też apel, który Stowarzyszenie Twoja Sprawa wystosowało w kwestii ochrony dzieci:
Apel o niezwłoczną ochronę dzieci w ramach wdrożenia DSA