Die Algorithmen von TikTok fördern Videos über Selbstverletzung und Essstörungen bei gefährdeten Teenagern, laut einem am Mittwoch veröffentlichten Bericht, der Bedenken über soziale Medien und ihre Auswirkungen auf die psychische Gesundheit von Jugendlichen hervorhebt.
Forscher der gemeinnützigen Organisation Center for Countering Digital Hate erstellte TikTok-Konten für fiktive Teenager-Personas in den USA, Großbritannien, Kanada und Australien. Die Forscher, die die Konten betrieben, „liketen“ dann Videos über Selbstverletzung und Essstörungen, um zu sehen, wie der Algorithmus von TikTok reagieren würde.
Innerhalb von Minuten empfahl die äußerst beliebte Plattform Videos über Gewichtsabnahme und Selbstverletzung, darunter solche mit Bildern von Modellen und idealisierten Körpertypen, Bildern von Rasierklingen und Diskussionen über Selbstmord.
Als die Forscher Konten mit Benutzernamen erstellten, die auf eine besondere Anfälligkeit für Essstörungen hindeuteten – Namen, die die Wörter „ Abnehmen”zum Beispiel – die Accounts wurden mit noch schädlicheren Inhalten gefüttert.
„Es ist, als würde man in einem Saal aus verzerrten Spiegeln feststecken, in dem einem ständig gesagt wird, dass man hässlich und nicht gut ist genug, vielleicht solltest du dich umbringen”, sagte der CEO des Zentrums, Imran Ahmed, dessen Organisation Büros in den USA und Großbritannien hat. „Es pumpt buchstäblich die gefährlichsten Botschaften an junge Menschen.”
Soziale Medien Algorithmen arbeiten, indem sie Themen und Inhalte identifizieren von Interesse für einen Benutzer, dem dann mehr davon gesendet wird, um seine Zeit auf der Website zu maximieren. Kritiker der sozialen Medien sagen jedoch, dass die gleichen Algorithmen, die Inhalte über eine bestimmte Sportmannschaft, ein bestimmtes Hobby oder einen Tanzwahn fördern, Benutzer in ein Kaninchenloch mit schädlichen Inhalten schicken können.
Das ist ein besonderes Problem für Teenager und Kinder, die dazu neigen mehr Zeit online verbringen und anfälliger für Mobbing, Gruppenzwang oder negative Inhalte über Essstörungen oder Selbstmord sind, so Josh Golin, Executive Director von Fairplay, einer gemeinnützigen Organisation, die sich für einen besseren Online-Schutz von Kindern einsetzt.
Er fügte hinzu, dass TikTok nicht die einzige Plattform ist, die es versäumt, junge Nutzer vor schädlichen Inhalten und aggressiver Datensammlung zu schützen.
„All diese Schäden hängen mit dem Geschäftsmodell zusammen“, sagte Golin. „Es spielt keine Rolle, was die Social-Media-Plattform ist.“
In einer Erklärung eines Unternehmenssprechers bestritt TikTok die Ergebnisse und stellte fest, dass die Forscher die Plattform nicht wie typische Benutzer nutzten. und sagen, dass die Ergebnisse infolgedessen verzerrt wurden. Das Unternehmen sagte auch, dass der Kontoname eines Benutzers keinen Einfluss auf die Art der Inhalte haben sollte, die der Benutzer erhält.
TikTok verbietet Benutzer, die jünger als 13 Jahre sind, und seine offiziellen Regeln verbieten Videos, die zu Essstörungen oder Selbstmord auffordern. Benutzer in den USA, die auf TikTok nach Inhalten über Essstörungen suchen, erhalten eine Aufforderung mit Ressourcen zur psychischen Gesundheit und Kontaktinformationen der National Eating Disorder Association.
„Wir konsultieren regelmäßig Gesundheitsexperten und beseitigen Verstöße gegen unsere Richtlinien und bieten Zugang zu unterstützenden Ressourcen für alle Bedürftigen“, heißt es in der Erklärung von TikTok, das sich im Besitz von ByteDance befindet, einem chinesischen Unternehmen, das jetzt in Singapur ansässig ist.
Trotz der Bemühungen der Plattform haben Forscher des Zentrums für Countering Digital Hate fand heraus, dass Inhalte über Essstörungen auf TikTok Milliarden Mal angesehen wurden. Forscher fanden heraus, dass junge TikTok-Nutzer in einigen Fällen verschlüsselte Sprache über Essstörungen verwendeten, um die Inhaltsmoderation von TikTok zu umgehen.
Die schiere Menge an schädlichen Inhalten, die Teenagern auf TikTok zugeführt werden, zeigt, dass Selbstregulierung vorliegt gescheitert ist, sagte Ahmed und fügte hinzu, dass Bundesregeln erforderlich seien, um Plattformen zu zwingen, mehr für den Schutz von Kindern zu tun.
Ahmed merkte an, dass die Version von TikTok, die dem chinesischen Publikum im Inland angeboten wird, darauf ausgelegt sei, Inhalte über Mathematik und Naturwissenschaften zu fördern für junge Nutzer und begrenzt die tägliche Verweildauer von 13-und 14-Jährigen auf der Website.
Ein Vorschlag für den Kongress würde neue Regeln auferlegen, die die Daten begrenzen, die Social-Media-Plattformen über junge Menschen sammeln dürfen Nutzer und schaffen ein neues Büro innerhalb der Federal Trade Commission, das sich auf den Schutz der Privatsphäre junger Social-Media-Nutzer konzentriert.
Einer der Unterstützer des Gesetzentwurfs, Senator Edward Markey, D-Mass., sagte am Mittwoch, er sei optimistischer Gesetzgeber beide Parteien können sich auf die Notwendigkeit von Tough einigen ihre Vorschriften darüber, wie Plattformen auf die Informationen junger Benutzer zugreifen und diese verwenden.
“Daten sind der Rohstoff, den Big Tech verwendet, um junge Menschen in unserem Land jeden Tag zu verfolgen, zu manipulieren und zu traumatisieren, “, sagte Markey.
Affiliate-Links können automatisch generiert werden – Einzelheiten finden Sie in unserer Ethikerklärung.