System reklamowy Instagrama przepuszczał treści promujące przestępstwa seksualne wobec dzieci. Sprawdzili to dziennikarze BBC.
Śledztwo BBC World Service ujawniło poważne luki w systemie moderacji reklam należącego do Meta Instagrama. Dziennikarze odkryli, że platforma wyświetlała sponsorowane reklamy promujące materiały przedstawiające seksualne wykorzystywanie dzieci. Co więcej, część z nich została wcześniej zaakceptowana przez automatyczne systemy moderacji firmy.
Według ustaleń BBC reklamy zawierały sformułowania takie jak „rape video” czy „child video” i kierowały użytkowników do kanałów w komunikatorze Telegram, gdzie nielegalne materiały były sprzedawane za równowartość około jednego dolara.
Eksperyment trwał zaledwie kilka dni
Aby sprawdzić działanie algorytmów, dziennikarze założyli nowe konto na Instagramie zlokalizowane w Indiach. Początkowo obserwowali profile publikujące sugestywne, lecz legalne treści.
Już po kilku dniach algorytm zaczął wyświetlać sponsorowane reklamy zawierające pornografię, a następnie reklamy przedstawiające dzieci w jednoznacznie seksualnym kontekście. Wszystkie prowadziły do kanałów na Telegramie, gdzie oferowano sprzedaż materiałów przedstawiających wykorzystywanie seksualne nieletnich.
BBC odnotowało około 30 różnych reklam promujących tego typu treści. Dodatkowo użytkownikowi wyświetlano około 20 reklam związanych z pornografią osób dorosłych.
Instagram nie usunął zgłoszonej reklamy
Jednym z najbardziej niepokojących elementów śledztwa była reakcja samej platformy.
BBC zgłosiło jedną z reklam przedstawiających płaczące dziecko z opisem sugerującym wykorzystanie seksualne. Po 24 godzinach Instagram odpowiedział, że reklama nie narusza standardów społeczności i pozostawił ją aktywną.
Dopiero po przedstawieniu wyników śledztwa firmie Meta reklamy zaczęły znikać. Koncern poinformował, że usunął wskazane materiały, zablokował kolejne reklamy, zawiesił konta odpowiedzialne za ich publikację oraz zablokował odnośniki prowadzące do nielegalnych treści.
Firma przyznała jednocześnie, że żaden system moderacji nie jest doskonały i nie wszystkie naruszenia są wykrywane automatycznie.
Reklamy są sprawdzane przed publikacją
Sprawa budzi szczególne kontrowersje, ponieważ reklamy w systemach Meta przechodzą weryfikację jeszcze przed opublikowaniem.
Proces opiera się głównie na algorytmach sztucznej inteligencji analizujących obrazy, filmy, tekst, dźwięk, grupę docelową oraz adresy internetowe, do których prowadzą reklamy. Tylko część zgłoszeń trafia do moderatorów.
W marcu Meta zapowiedziała dalsze ograniczanie udziału zewnętrznych moderatorów na rzecz systemów opartych na AI. Śledztwo BBC pokazuje jednak, że automatyczne mechanizmy wciąż mogą przepuszczać wyjątkowo niebezpieczne treści.
Były wiceprezes Facebooka: algorytmy szukają coraz bardziej skrajnych treści
Do ustaleń BBC odniósł się również Brian Boland, były wiceprezes Facebooka odpowiedzialny za rozwój biznesu reklamowego w latach 2009–2020.
Przyznał, że nie jest zaskoczony wynikami śledztwa. Według niego algorytmy Instagrama zostały zaprojektowane tak, aby maksymalizować zaangażowanie użytkowników, pokazując im coraz bardziej ekstremalne i przyciągające uwagę materiały.
Boland podkreślił, że problem nie polega na świadomym promowaniu przestępstw, lecz na niewystarczającej kontroli nad systemami, których głównym celem pozostaje zwiększanie liczby kliknięć oraz przychodów reklamowych.
Meta broni swoich działań
Meta odrzuca zarzuty, jakoby świadomie kierowała tego typu reklamy do użytkowników lub przedkładała zyski nad bezpieczeństwo.
Firma podkreśla, że wykorzystywanie seksualne dzieci jest jednym z najpoważniejszych naruszeń regulaminu, a w 2025 roku automatycznie zablokowała ponad cztery miliony kont wykazujących podejrzaną aktywność. Koncern deklaruje również ścisłą współpracę z amerykańskim National Center for Missing and Exploited Children (NCMEC) oraz organami ścigania.
Telegram również pod presją
Kanały promowane przez reklamy prowadziły do Telegrama. Po zgłoszeniu przez BBC jeden z nich został usunięty, natomiast drugi nadal publikował nowe oferty sprzedaży nielegalnych materiałów.
Telegram poinformował, że tylko w 2026 roku usunął ponad 274 tysiące grup i kanałów związanych z materiałami przedstawiającymi seksualne wykorzystywanie dzieci. Firma twierdzi, że wykorzystuje zarówno automatyczne systemy wykrywania, jak i moderatorów.
Eksperci ostrzegają przed zorganizowaną przestępczością
Zdaniem indyjskich ekspertów problem wykracza daleko poza pojedyncze platformy internetowe. Materiały przedstawiające seksualne wykorzystywanie dzieci są często tworzone i dystrybuowane przez zorganizowane grupy przestępcze, a skuteczna walka z nimi wymaga współpracy międzynarodowej, wymiany informacji oraz sprawnych narzędzi do wykrywania i usuwania takich treści.
Śledztwo BBC pokazuje jednocześnie, że nawet największe platformy technologiczne, dysponujące zaawansowanymi systemami sztucznej inteligencji, nadal mają poważne problemy z eliminowaniem najbardziej szkodliwych treści jeszcze zanim trafią one do użytkowników.
Foto: DepositPhotos.