Algorytm Kręgle na Instagramie, część giganta Meta, podniósł obawy o bezpieczeństwo nieletnich. Dochodzenie ws Wall Street Journal ujawnia, że algorytm zaczął to robić, śledząc niektóre konta młodych influencerów sugerować zawartość nieodpowiedni e seksualny, obok reklam dużych marek. Krótko mówiąc, Instagram pokazuje treści dla dorosłych nawet tym, którzy nie powinni.
Kontrowersyjny algorytm Instagrama, który pokazuje treści dla dorosłych (zabronione) nawet nieletnim
Test, przeprowadzony przez Wall Street Journal, która dotyczyła tworzenie kont przeznaczonych do śledzenia młodych influencerów, takich jak gimnastyczki i cheerleaderki, pokazało, że algorytm Instagrama zaczął proponować treści dla dorosłych, w tym filmy o charakterze seksualnym z udziałem dorosłych i nieletnich oraz reklamy znanych amerykańskich marek.
Dochodzenie ujawniło niepokojącą tendencję: konta śledzące tych młodych ludzi były narażone na: niepokojąca mieszanka pornografii i materiałów seksualizujących dzieci. Eksperci w dziedzinie algorytmicznych systemów rekomendacji podkreślili, że takie „niszowe” treści mogą generować silniejsze sygnały niż te budzące zainteresowanie ogółu, zmuszając algorytm do kierowania nieodpowiednich treści do użytkowników.
Zobacz także: Sekret Pulcinelli zostaje ujawniony: miliony nieletnich użytkowników Instagrama
Problem agregacji treści dla dorosłych na Instagramie było to wiadome wewnętrznie a zapobieganie takiemu rozprzestrzenianiu się wymaga znacznych zmian w algorytmach rekomendacji. Dokumenty spółki jednak na to wskazują pracownikom ochrony w dużym stopniu zabrania się wprowadzania zmian na platformie co może zmniejszyć liczbę aktywnych użytkowników dziennie.
W odpowiedzi Meta oświadczyła, że inwestuje miliardy w rozwiązania w zakresie bezpieczeństwa, ochrony i dopasowania marki, przyznając jednocześnie potrzebę dalszych ulepszeń. Różne firmy, m.in Mecz Zarządzanie e Bumble, zawiesili lub ograniczyli reklamy na Reels i inne platformy Meta po tych odkryciach. Inni, jak Disney e Hymny, naciskają na Meta, aby uniknąć umieszczania takich reklam i wyrazili zaniepokojenie powiązanie ich marek z takimi treściami.
