Instagram-algoritmen promoten pedofiele netwerken: onderzoeksvondsten
De algoritmen van Instagram verbinden een enorm netwerk van pedofielen, ontdekte een onderzoek van The Wall Street Journal, Stanford University en de University of Massachusetts Amherst.
Een onderzoek door de hoofdtechnoloog van het Stanford Internet Observatory, David Thiel, onderzoeksmanager Renée DiResta, en directeur Alex Stamos ontdekte dat een enorm netwerk van Engelssprekende sociale media-accounts materiaal over seksueel misbruik van kinderen (CSAM) koopt, verkoopt en deelt via verschillende sociale netwerken. media netwerken.
Sommige kinderpornografie is gemaakt door kinderen of tieners die proberen geld te verdienen, indruk te maken op een date of een afperser gunstig te stemmen. Het rapport noemt deze inhoud zelf gegenereerd materiaal met seksueel misbruik van kinderen (SG-CSAM).
De pedofielenaccounts navigeren door deze accounts via hashtags die verwijzen naar pedofilie, aldus het Stanford-rapport. Sommige van deze verwijzingen liggen voor de hand, zoals hashtags die variaties van woorden als ‘pedo’ gebruiken.
Andere verwijzingen gebruiken emoji, vermeldingen van pedofiele codewoorden of andere sluwe verwijzingen, voegde het rapport eraan toe.
De algoritmen van sociale media dienden in feite als pooiers die pedofielen met kinderen in verband brachten, suggereren de bevindingen van het rapport. Hun aanbevelingen en suggesties duwden pedofiele inhoud in de handen van degenen die dat wilden.
Hoewel Instagram het belangrijkste platform is voor pedofielennetwerken, verbinden ook andere sites, waaronder Twitter, Telegram, Discord, Snapchat, TikTok, Mastodon en anderen pedofielen met hun slachtoffers en met elkaar, stelt het rapport.
Algoritmen van sociale media hebben een systeem gecreëerd waarin duizenden pedofielen pornografische afbeeldingen, pornografische video’s, online videovergaderingen en zelfs persoonlijke ontmoetingen met kinderen en tieners kopen, concludeert het rapport.
“De creatie en distributie van SG-CSAM is de afgelopen jaren steeds meer een commerciële onderneming geworden. Deze commercialisering repliceert vaak het patroon van legitieme, onafhankelijke productie van inhoud voor volwassenen”, aldus het rapport.
Hoe het werkt
Volgens het rapport lijken de sociale media-accounts waar kinderen porno produceren op pornosites zoals OnlyFans. Slachtoffers maken ‘menu’s’ van seksuele handelingen waar klanten om kunnen vragen. Klanten betalen voor de seksuele handelingen door middel van het ruilen van cadeaubonnen, uitwisselingsplatforms zoals G2G en andere websites die anonieme betaling mogelijk maken, concludeert het rapport.
Op sociale media claimen veel van de ‘verkopers’-accounts de leeftijd tussen 13 en 17 jaar, merkt het rapport op. Maar vaak verkopen deze kinderen seksuele foto’s van zichzelf van veel jongere leeftijden, voegt het eraan toe.
“Menu’s” kunnen seksueel expliciete video’s, seksueel expliciete foto’s, video’s van zelfbeschadiging, video’s van seksuele handelingen met dieren, video’s van zelfbeschadiging, video’s van toen kinderen jonger waren en betaalde seksuele handelingen bevatten, aldus het rapport.
Verkopers gebruiken eenvoudige trucs om de algoritmen van sociale media te slim af te zijn, merkt het rapport op. Ze keren leeftijden zoals “16” om naar “61”, wissen woorden over seksuele inhoud gedeeltelijk uit en gebruiken codewoorden zoals “menu”, voegt het rapport eraan toe.
Het rapport schat dat er tussen de 500 en 1.000 verkopersaccounts en duizenden volgers zijn.
Handige algoritmen
Pedofielen en verkopers hoefden niet lang te zoeken om elkaar te vinden omdat algoritmen het werk voor hen deden, suggereert het rapport.
De meeste zoekwoorden die betrekking hebben op kinderporno leveren resultaten op de website van Instagram op, aldus het rapport.
Voor sommige termen geeft Instagram een waarschuwingsbericht weer, luidt het rapport.
“Deze resultaten kunnen afbeeldingen bevatten van seksueel misbruik van kinderen”, luidt het bericht. “Seksueel misbruik van kinderen of het bekijken van seksuele beelden van kinderen kan leiden tot gevangenisstraffen en andere ernstige gevolgen. Dit misbruik veroorzaakt extreme schade aan kinderen en het zoeken en bekijken van dergelijke materialen draagt bij aan die schade. Bezoek ons gezondheidscentrum voor vertrouwelijke hulp of om te leren hoe u inhoud als ongepast kunt melden.”
Onderaan biedt het bericht van Instagram gebruikers twee opties: “Get resources” is er één. “Zie toch resultaten” is de andere.
“Vanwege het wijdverbreide gebruik van hashtags, de relatief lange levensduur van verkopersaccounts en vooral het effectieve aanbevelingsalgoritme, dient Instagram als het belangrijkste ontdekkingsmechanisme voor deze specifieke gemeenschap van kopers en verkopers”, stelt het rapport.
Meta is eigenaar van zowel Instagram als Facebook.
Bedrijven reageren
Een vertegenwoordiger van Meta vertelde The Epoch Times dat het bedrijf “agressief” werkt om kinderporno op al zijn platforms te bestrijden.
“Roofdieren veranderen voortdurend hun tactieken in hun streven om kinderen schade toe te brengen, en daarom hebben we strikte beleidslijnen en technologie om te voorkomen dat ze tieners vinden of ermee omgaan in onze apps, en we huren gespecialiseerde teams in die zich richten op het begrijpen van hun veranderende gedrag, zodat we kunnen elimineren beledigende netwerken’, zei de vertegenwoordiger.
Van 2020 tot 2022 hebben Meta’s teams 27 misbruikende netwerken ontmanteld, zei de Meta-vertegenwoordiger. In januari 2023 heeft Meta meer dan 490.000 accounts uitgeschakeld die in strijd waren met het beleid inzake kinderveiligheid, voegde de vertegenwoordiger eraan toe.
“We hebben een technisch probleem verholpen waardoor bepaalde gebruikersrapporten onverwachts niet bij inhoudsrecensenten terechtkwamen, we hebben bijgewerkte richtlijnen gegeven aan onze inhoudsrecensenten om roofzuchtige accounts gemakkelijker te identificeren en te verwijderen, en we hebben duizenden aanvullende zoektermen en hashtags op Instagram beperkt. We zijn vastbesloten om ons werk voort te zetten om tieners te beschermen, criminelen tegen te houden en wetshandhavers te ondersteunen bij het berechten van hen”, aldus de vertegenwoordiger.
Twitter laat ook kinderen kinderporno maken op zijn platform, voegt het rapport eraan toe. Hoewel Twitter beter is in het verwijderen van kinderporno, krijgen mensen die sommige verkopersaccounts bekijken nog steeds aanbevelingen voor andere verkopersaccounts, merkt het rapport op.
Bovendien staat Twitter naaktheid toe, waardoor kinderporno gemakkelijker op het platform kan verschijnen, aldus het rapport. Soms plaatsten accounts meerdere afbeeldingen waarvan bekend was dat ze kinderporno waren voordat Twitter ze verwijderde, merkt het rapport op.
Sinds Twitter over dit probleem heeft gehoord, heeft het het probleem grotendeels opgelost, aldus het rapport.
Wanneer contact werd opgenomen, antwoordde de perslijn van Twitter automatisch met een kak-emoji.
Gecommercialiseerde kinderpornogroepen op communicatie-apps Discord en Telegram hadden duizenden leden, aldus het rapport.
Volgens het rapport gaat het officiële beleid van Telegram niet in op kinderporno in privéchats, seksualisering van kinderen en kinderlokkerij. Het beleid van Discord gaat niet in op de seksualisering van kinderen, voegt het rapport eraan toe.
Telegram-woordvoerder Remi Vaughn vertelde The Epoch Times dat de site hard heeft gewerkt om content met kindermisbruik op de openbare delen van de app te modereren.
“In het geval van content met kindermisbruik publiceren we dagelijks rapporten over onze inspanningen op t.me/stopca. Op het moment van schrijven zijn deze maand bijna 10.000 groepen, kanalen en bots verwijderd”, aldus Vaughn.
“Deze Telegram- en Discord-groepen hadden honderden of duizenden gebruikers; sommige leken te worden beheerd door individuele verkopers, maar er waren ook groepen met meerdere verkopers”, aldus het rapport.
The Epoch Times nam contact op met Discord, maar kreeg geen commentaar.
Op Snapchat kunnen pedofielen rechtstreeks contact maken met kinderen via peer-to-peer communicatiefuncties, merkt het rapport op.
The Epoch Times nam contact op met Snapchat, maar kreeg geen commentaar.
TikTok deed het beter om pedofiele inhoud te beperken, aldus het rapport. Maar zelfs daar waren er problemen, aldus het rapport.
“Het feit dat TikTok veel meer gericht is op inhoudsaanbevelingen in plaats van op hashtag-gebaseerde ontdekking of aanbevelingen van vrienden, maakt het ook moeilijker voor gebruikers om opzettelijk specifieke soorten materiaal te ontdekken”, luidt het rapport.
Mastodon en Facebook speelden ook minder een rol in pedofiele netwerken. Mastodon heeft geen directe berichten voor gebruikerscommunicatie en Facebook heeft een “echte naam”-beleid dat zou voorkomen dat pedofielen anoniem zouden worden, merkt het rapport op.
Stop misbruikers of stop zaken
Volgens Jon Uhler, een psycholoog met 15 jaar ervaring met meer dan 4.000 seksuele roofdieren, laat dit verhaal zien hoe creatief roofdieren kinderen achtervolgen. “Hun duistere creativiteit kent geen grenzen”, zei hij.
Hij voegde eraan toe dat de samenleving negeert hoe seksueel expliciete inhoud leidt tot seksuele predatie door de afweer van kinderen te verlagen.
“Iedereen die met de ontwikkeling van kinderen te maken heeft, begrijpt dat als je sterk geseksualiseerde inhoud introduceert die boven hun ontwikkelingsniveau ligt om te verwerken en te begrijpen, je ze tot een gemakkelijke prooi maakt”, zei Uhler. “Omdat ze niet het intuïtieve gevoel van kwade bedoelingen hebben.”
Bovendien worden mannen roofzuchtig door grote hoeveelheden porno te bekijken, zei Uhler.
“Afwijking begint met lust en vervolgens objectivering. En dan komt het in macht en controle en degradatie, en uiteindelijk de wens om een negatief effect te hebben, ‘zei Uhler.
Hij voegde eraan toe dat seksuele afwijking anders werkt bij mannen dan bij vrouwen. Mannen zijn veel kwetsbaarder om dit pad te bewandelen, zei hij.
“De vrouwelijke zedendelinquenten en de mannelijke zedendelinquenten verschillen van aard, wat betreft de aard van hun delict”, zei Uhler. “Je zult nooit een vrouw zien die is gearresteerd voor een zedendelict waarbij ze voorwerpen op haar slachtoffers gebruikte.”
Uhler zei dat socialemediabedrijven het stoppen van roofdieren tot hun prioriteit moeten maken. Hij zei ook dat de bedrijven slim genoeg zijn om roofdieren te stoppen.
“Jullie zijn capabel, echt capabel. Als je niet toegewijd bent aan de bescherming van kinderen, sluit dan je site”, zei hij tegen sociale mediabedrijven. “Als je een van deze dingen gaat bouwen, weet je dat er roofdieren komen.”
