Social-Media-Nutzer sind nicht nur mit psychischen Gesundheitsrisiken konfrontiert. Tatsächlich ist eine neue Studie sehr ernst Wall Street Journal zeigt, dass auch immer mehr Kinderkriminelle Apps dieser Art nutzen, um ihre Bedürfnisse zu befriedigen. Berichten zufolge soll es auf Instagram zu Liveübertragungen sexuellen Missbrauchs von Minderjährigen gekommen sein. Der Fehler liegt bei Konten mit nicht weniger als zehn Millionen Abonnenten.
In diesem ganz besonderen Fall konnte eines der betreffenden Profile diesen Inhalt sogar noch mehrere Monate nach der Meldung weiter teilen. Allerdings gelten beispielsweise bei Instagram strikte Richtlinien für Nacktfotos: Diese sind auf der Plattform schlichtweg verboten. Wie können also noch schädlichere Videos durchsickern? Um das herauszufinden, müssen wir uns wahrscheinlich mit der Frage der Subunternehmer befassen. Denn ja: Meistens sind die Moderatoren Dritte.
Profile in Alarmbereitschaft
Darüber hinaus hat Meta, zu dem neben Instagram insbesondere Facebook und WhatsApp gehören, Berichten zufolge eine eigene Jagd nach riskanten Konten gestartet. Genauer gesagt würden Profile von Erwachsenen, die sich zu sehr für Kinder interessieren, von Moderatoren auf den kleinsten Fehltritt geprüft. Sollten dann Handlungen festgestellt werden, die gegen die Instagram-Richtlinien verstoßen, können die betreffenden Personen komplett gesperrt werden.
Um diese Art von Verhalten zu verhindern, erklärt Meta, dass seine Strategie insbesondere maschinelles Lernen nutzt. Mit anderen Worten: die maschinelles Lernenin der Sprache Shakespeares. Wenn bei mehreren gesperrten Konten ein potenzielles Gewohnheitsmuster festgestellt wird, kann dies als Modell für die Aufdeckung neuer Gewohnheiten dienen.
Sind die Empfehlungen im Visier der Behörden?
Trotz allem, die maschinelles Lernen – ein Thema auch von Apple erforscht – führt nicht immer zu positiven Ergebnissen bei der Verbesserung der Sicherheit von Kindern in sozialen Netzwerken. DER Wall Street Journal erklärt, dass die App ihren Nutzern auf Facebook den Beitritt zu Gruppen empfiehlt, die mitunter die Ausbeutung von Kindern fördern. Es stellt sich jedoch heraus, dass diese Vorschläge genau und meistens auf einer sorgfältigen Analyse des Geschmacks der Internetnutzer basieren, die sie konsultieren …
Sie haben es wahrscheinlich selbst bemerkt: Ob zum Hinzufügen eines Freundes oder zum Folgen einer Seite, die Empfehlungen von Facebook kommen unseren Bedürfnissen im Allgemeinen recht nahe. Schade.
