zurück zum Artikel

Ann Reardon verbringt ihre Zeit damit, gefährliche Aktivitäten zu entlarven, die auf YouTube viral gehen – aber der Wahnsinn ist kaum zu stoppen.

Ann Reardon ist wahrscheinlich die letzte Person, von der man erwarten würde, dass ihre Inhalte von YouTube gesperrt werden. Die ehemalige australische Jugendarbeiterin und dreifache Mutter hat ein eigenes Kochbuch geschrieben, hat für die britische BBC gebacken und einmal einen nur münzgroßen Apfelkuchen für zwei Küken produziert. Seit 2011 nutzt sie ihren YouTube-Kanal, um Millionen von treuen Abonnenten zu zeigen, wie man aufwendige Kuchen backt und dekoriert.

Doch am 1. Juli erhielt Reardon eine E-Mail von YouTube, die besagte, dass ihr letztes Video entfernt worden sei. "Unser Team hat Ihren Inhalt überprüft und ist leider der Meinung, dass er gegen unsere Richtlinien für schädliche und gefährliche Inhalte verstößt", hieß es darin. Die E-Mail zur Löschung bezog sich auf ein Video, das nicht Reardons typische Kuchenbackkost war.

Kampf dem Irrsinn

Stattdessen war das Video mit dem Titel "Debunking DEADLIEST craft hack, 34 dead" die neueste Folge einer Reihe auf Reardons Kanal. Seit 2018 hat sie ihre Plattform nämlich auch dazu genutzt, um die Zuschauer vor gefährlichen neuen "Craft Hacks" zu warnen, die auf YouTube viral gehen. Die Bäckerin hat hierzu 28 Videos hochgeladen, in denen sie unsichere Aktivitäten wie das Pochieren von Eiern in der Mikrowelle [2], das Bleichen von Erdbeeren und die Verwendung einer Cola-Dose und einer Flamme zum Popcornmachen anspricht.

Plötzlich war sie in die chaotische Moderationspolitik verwickelt, die YouTube schon lange plagt. Reardons Video deckte eine Schwachstelle im System auf: Wie kann eine Warnung vor schädlichen Hacks als gefährlich eingestuft werden, wenn die Craft-Hack-Videos selbst nicht gefährlich sind? Auf dem Papier verbietet die Plattform Videos, die zu "gefährlichen oder illegalen Aktivitäten aufrufen, die zu schweren körperlichen Schäden oder zum Tod führen können". Aber ist das auch in der Praxis so?

In ihrem 14-minütigen Video [3] warnte Reardon ihre Zuschauer vor einer Basteltechnik, die tödlich sein kann, wenn sie schief geht. Beim "fraktalen Holzbrennen" wird Hochspannungsstrom über feuchtes Holz geleitet, um ein verschlungenes, astähnliches Muster in dessen Oberfläche zu brennen. Auf ihrer Website erklärt die Handwerksgruppe American Association of Woodturners, dass dieses Verfahren "ein erhebliches Risiko eines Stromschlags" birgt. In dem Video beklagt Reardon, dass auf YouTube mehrere Anleitungen zum fraktalen Holzbrennen zu finden sind, darunter auch Anleitungsvideos, die zeigen, wie man aus Teilen einer alten Mikrowelle sein eigenes fraktales Holzbrennungsgerät bauen kann.

Nicht unerlaubt auf YouTube

Reardon will nicht nur das Bewusstsein schärfen – sie will, dass YouTube sich ändert. "Wenn es nach mir ginge, würde YouTube eine Richtlinie gegen gefährliche Craft Hacks und gefährliche Anleitungsvideos einführen", sagt sie am Ende eines aktuellen Videos. "Es gibt eine Richtlinie gegen gefährliche Streiche und gefährliche Challenges – warum gibt es keine für gefährliche Bastelhacks?"

YouTube teilte gegenüber MIT Technology Review auf Nachfrage mit, dass das Video von Reardon kurz nach ihrem Einspruch gegen die Sperre erneut geprüft und wieder freigeschaltet wurde. Das Unternehmen erklärte, dass es häufig Videos wieder freigibt, die fälschlicherweise entfernt wurden. Es ist jedoch unklar, warum Reardons Video gegen die YouTube-Richtlinien für gefährliche Inhalte verstoßen hat, während die Craft-Hack-Videos, vor denen sie gewarnt hat, weiterhin abrufbar waren.

Als MIT Technology Review YouTube zum ersten Mal auf dieses Problem ansprach, gab es mehr als 3.000 Google-Suchergebnisse für die Holzbrenner-Videos auf YouTube. Jetzt sind es nur noch etwas mehr als 1.000. Ein YouTube-Sprecher sagte: "Im Rahmen unserer Richtlinien für schädliche oder gefährliche Inhalte verbieten wir Inhalte, die zu gefährlichen oder illegalen Aktivitäten anregen, die zu schweren körperlichen Schäden oder zum Tod führen können." Nach einer Überprüfung habe man eine Reihe von Videos entfernt und entsprechende Altersbeschränkungen auf Inhalte angewendet, die nicht für alle Zuschauer geeignet sind.

Das gefährliche Mega-Ei

Am 25. Juli 2019 lud ein Twitter-Nutzer ein ungewöhnliches Video mit dem Wasserzeichen "5-Minute Crafts" hoch [4] und teilte es. In dem 55-sekündigen Clip wurde ein Ei in ein Weinglas mit Essig gelegt. Eine Bildunterschrift wies darauf hin, einen Tag zu warten. Ein Schnitt und das Ei tauchte schließlich gelb und prall wieder auf – und die Bildunterschrift verkündete: "Größer als zuvor". Das Ei wurde dann in ein Glas mit Ahornsirup gelegt. Dann wurde es in blau gefärbtes Wasser gelegt. Wieder lautete die Beschriftung: "Warte einen Tag", gefolgt von: "Größer als zuvor".

Der Clip ging viral, erhielt 72.000 Likes auf Twitter und wurde sogar im New York Magazine veröffentlicht. Damit wurde die ganze Welt auf die Existenz solcher Craft Hacks aufmerksam. Als Erfinder solcher 5-Minute Crafts gilt ein inzwischen sechs Jahre alter YouTube-Kanal, der heute über 24 Milliarden Aufrufe zu verzeichnen hat. Fast jedes der 5-Minute-Crafts-Video ist so bizarr und absurd wie das erwähnte Ei, das größer wurde. Der Kanal zeigt Menschen, die Kontaktlinsen mit Wattestäbchen einsetzen, Äpfel mit einer Bohrmaschine schälen, behelfsmäßige Lötkolben aus Feuerzeugen basteln und Zahnpasta auf Verbrennungen auftragen (die offizielle Website von Colgate warnt inzwischen vor dieser Praxis).

Enttarnte Backhacks

Reardon hatte zum ersten Mal ein Jahr zuvor von 5-Minute Crafts erfahren, als ihre Zuschauerzahlen im Zuge einer Algorithmusänderung bei YouTube stark zurückgingen. Beliebte YouTuber bekommen bei dem Unternehmen oft einen "Partnermanager" zugewiesen, der ihnen persönliche Unterstützung bietet; Reardon wandte sich also an ihren "Partnermanager", um ihre Besorgnis über ihre rückläufigen Zahlen zum Ausdruck zu bringen.

"Er schlug vor, sich einige der Kanäle anzusehen, die unter dem neuen Algorithmus gut liefen", sagt Reardon, "und da wurde mir klar: Moment mal, einige dieser Rezepte kannst du nicht machen. Das sind keine echten Rezepte, das sind Fälschungen". Im Dezember 2018 lud Reardon ein Video hoch, in dem sie Backhacks des Food-Hack-Kanals "So Yummy" testete und bewies, dass man entgegen den Behauptungen des Kanals weder Eis und Zucker zu Kuchenglasur schlagen noch Gummibärchen zu Gelee schmelzen kann. Im Juli 2019 kritisierte sie den YouTube-Kanal "Blossom" für die Veröffentlichung ähnlicher Falschinformationen.

Kinder machen mit

"Ich habe Kommentare von jungen Kindern bekommen, die sagten: 'Ich dachte, ich könnte nicht kochen. Ich habe dieses Video ausprobiert und es hat nicht funktioniert'". Und dann gab es auch noch Ärger wegen verschwendeter Zutaten, so Reardon. Sie beschloss, ihren Bachelor-Abschluss in Lebensmittelwissenschaften und ihren Postgraduierten-Abschluss in Diätetik zu nutzen, um weitere Clips zu entlarven – aber sie erkannte schnell, dass viele Hacks nicht nur falsch, sondern sogar gefährlich waren.

Im Mai 2019 veröffentlichte Reardon ein Video über 5-Minute Crafts [5]. Sie staunte über einen Schauspieler, der Heißkleber auf eine Zahnbürste aufträgt – und testete ein Rezept für "körniges" Aktivkohleeis. Einen großen Teil des Videos widmete sie einem Clip, in dem Erdbeeren mit Bleichmittel versetzt wurden. "Wenn einige Kinder das zu Hause machen und diese weißen Erdbeeren dann essen, werden sie sich vergiften", sagte sie, bevor sie ihre Zuschauer aufforderte, das Video zu melden (der Clip wurde inzwischen aus dem 5-Minute Crafts-Kanal entfernt).

Blossom und So Yummy reagierten auf die Bitte um eine Stellungnahme nicht. MIT Technology Review schickte TheSoul Publishing, dem Unternehmen hinter 5-Minute Crafts, eine Liste der problematischen Videos auf dem Kanal, darunter eine Anleitung, wie man mit einer elektrischen Bohrmaschine geschmolzenen Zucker in Zuckerwatte verwandelt, eine Anleitung, wie man aus einer aufgeschnittenen Getränkedose und einem Feuerzeug eine Klebepistole herstellt, und ein Video, in dem eine mysteriöse Hand ein antibakterielles Gel anzündet, bevor sie mit den Fingern hindurchstreicht.

"Unterhaltsame, positive Inhalte"

Patrik Wilkens, VP of Operations bei TheSoul Publishing, meint, das Unternehmen produziere "unterhaltsame, positive und originelle Inhalte, die nicht als Quelle von Fakten gedacht sind, sondern eher der Unterhaltung dienen". Von YouTube hieß es, dass man die von MIT Technology Review genannten 5-Minute-Craft-Videos überprüfen werde.

Eine Warnung in der Beschreibung jedes 5-Minute-Crafts-Uploads lautet: "Das folgende Video zeigt möglicherweise Aktivitäten, die von unseren Schauspielern in einer kontrollierten Umgebung durchgeführt wurden." Man solle vorsichtig sein, wenn man das nachmachen wolle.

Manager Wilkens behauptet, dass TheSoul Publishing über ein "Team zur Qualitätssicherung" verfügt, das jedes Video während der Produktion überprüft. Man halte sich an die Richtlinien der Plattformen, auf denen die Videos erscheinen. Er fügte hinzu: "Darüber hinaus überwachen wir täglich das Feedback von Zuschauern und Partnern und nehmen es auf, um notwendige Änderungen und Verbesserungen vorzunehmen."

Tod nach ausprobiertem Craft Hack

Am 5. September 2019 starb ein chinesischer Teenager, nachdem er Berichten zufolge versucht hatte, ein virales Craft-Hack-Video zu kopieren. Das von der Koch-Influencerin Ms Yeah hochgeladene Video zeigte den Zuschauern, wie man Popcorn in einer über einer Alkohollampe platzierten Getränkedose zubereitet. Die Familie einer 14-Jährigen, die nur als "Zhezhe" identifiziert wurde, sagte, dass sie und ihre 12-jährige Freundin Xiaoyu versucht hätten, die Anweisungen des Videos zu befolgen, als die Dose explodierte. Beide Mädchen erlitten schwere Verbrennungen, Zhezhe starb an ihren Verletzungen.

Frau Yeah, die mit bürgerlichem Namen Zhou Xiao Hui heißt, zahlte den Familien eine ungenannte Entschädigung, bestritt aber, dass die Mädchen ihr Video kopiert hätten, da sie angeblich Alkohol direkt in zwei Dosen erhitzt hatten. "Ich habe nur eine Blechdose und eine Alkohollampe verwendet, was sicherer ist", schrieb sie auf Weibo. Sie fügte hinzu, dass ihre Videos nicht als Lehrvideos gedacht sind. Der YouTube-Kanal Ms Yeah hat 11,7 Millionen Abonnenten, die Zhou beim Kochen zusehen – oft auf ungewöhnliche Weise mit Gerätschaften aus ihrem Büro. Sie hat schon Fleisch auf einem Aktenschrank gegrillt, Zuckerwatte auf einer elektrischen Bohrmaschine gesponnen und Essen in einer mit Öl gefüllten Kaffeekanne gebraten. Frau Yeah reagierte nicht auf eine Bitte um Stellungnahme.

"Das Problem ist, dass sich buchstäblich jeder diese Videos ansehen kann"

Abgesehen von diesem Vorfall hat Reardon Fälle aufgedeckt, bei denen mehrere Menschen beim Kochen von Eiern verletzt wurden. Es gibt Zehntausende von YouTube-Videos über das Pochieren von Eiern in der Mikrowelle, von denen viele von Benutzern erstellt wurden. Das Pochieren von Eiern in der Mikrowelle kann dazu führen, dass sie explodieren, und Forscher haben herausgefunden, dass das Eigelb in der Mikrowelle durchschnittlich 5,5 Grad Celsius heißer ist als in der Mikrowelle erhitztes Wasser. In den letzten drei Jahren haben sich mehrere Menschen im Vereinigten Königreich bei diesen Versuchen verbrannt.

Todesfälle oder schwere Verletzungen durch Bastel- und Kochversuche sind immer noch relativ selten. Aber das fraktale Holzbrennen ist anders. Reardon wurde zum ersten Mal auf das fraktale Holzbrennen aufmerksam, nachdem ein Ehepaar aus Wisconsin im April dieses Jahres bei einem solchen Versuch gestorben war. Aber die Praxis ist schon seit einigen Jahren beliebt. Die American Association of Woodturners hat seit 2016 in den USA 33 Todesfälle durch fraktales Holzbrennen gezählt, aber die Gesamtzahl ist wahrscheinlich höher, da die Organisation nur Todesfälle zählt, die in den Nachrichten vorkommen. In einem Paper aus dem Jahr 2020 stellten Ärzte eines Verbrennungskrankenhauses in Oregon eine Sterblichkeitsrate von 71 Prozent nach solchen Unfällen fest [6]; die Autoren nannten diese Rate "erstaunlich hoch".

Stromschlag beim Holzbrennen

Im Mai 2020 erlitt Matt Schmidt, ein Bauarbeiter, beim Versuch, in seiner Garage bei solchen Versuchen einen Stromschlag. Seine Frau, Caitlin Schmidt, damals Krankenschwester, war bei der Arbeit, ihr ältester Sohn war derjenige, der die Leiche seines Vaters fand. "Das Problem ist, dass sich buchstäblich jeder diese Videos ansehen kann – Kinder, Erwachsene, das spielt keine Rolle", sagt Schmidt. "Matt sah zum ersten Mal ein solches Video, das ein Freund auf Facebook geteilt hatte, und war so fasziniert, dass er anfing, sich YouTube-Videos dazu anzusehen – und die sind endlos."

Schmidt erlitt einen Stromschlag, als sich ein Stück der Ummantelung des Überbrückungskabels, das er benutzte, löste und seine Handfläche mit Metall in Berührung kam. "Ich glaube wirklich, wenn mein Mann sich der Gefahren bewusst gewesen wäre, hätte er es nicht getan", sagt Schmidt. Ihr Plädoyer ist simpel: "Wenn man es mit etwas zu tun hat, das jemanden umbringen kann, sollte es immer eine Warnung geben ... YouTube muss hier bessere Arbeit leisten – und ich weiß, dass sie das können. Auch andere Dinge werden zensiert."

Nach Schmidts Tod schrieben Mediziner der Universität von Wisconsin eine Abhandlung mit dem Titel "Shocked Though the Heart and YouTube Is to Blame" [7]. Unter Berufung auf diesen Todesfall und vier weitere mit schweren Verletzungen, die sie persönlich behandelt hatten, forderten sie, dass "ein Warnhinweis eingefügt wird, bevor Nutzer auf Videoinhalte [über diese Basteltechnik] zugreifen können". Es sei zwar nicht möglich und auch nicht wünschenswert, jedes Video zu kennzeichnen, das eine potenziell riskante Aktivität zeigt, schrieben sie weiter, "aber es erscheint sinnvoll, einen Warnhinweis bei Videos anzubringen, die bei Nachahmung zum sofortigen Tod führen können".

Matt und Caitlin Schmidt waren beste Freunde, seit sie 12 Jahre alt waren. Er hinterlässt drei Kinder. Schmidt sagt, ihre Familie habe "Schmerz, Verlust und innere Verwüstung" erlitten und werde ihr Leben lang trauern. "Wir sind jetzt das abschreckende Beispiel", sagt sie, "und ich wünsche mir bei allem, was in meinem Leben geschieht, dass wir es nicht wären".

Eigentlich verboten?

YouTube erklärte gegenüber MIT Technology Review, dass seine Community-Richtlinien Inhalte verbieten, die zu gefährlichen Aktivitäten anregen oder ein inhärentes Risiko für körperliche Schäden darstellen. Warnungen und Altersbeschränkungen werden auf solche Videos angewendet. Eine Kombination aus Filtern und menschlichem Personal setze die Richtlinien des Unternehmens durch. Zu den gefährlichen Videos, die von YouTube verboten werden, gehören "Challenges", die eine unmittelbare Verletzungsgefahr darstellen, "Streiche", die emotionales Leid verursachen, Drogenkonsum, die Verherrlichung von bestimmten Gewalttaten und Anleitungen, wie man andere tötet oder gewalttätigen Schaden anrichtet. Videos können jedoch gefährliche Handlungen zeigen, wenn sie einen ausreichend "pädagogischen, dokumentarischen, wissenschaftlichen oder künstlerischen Kontext" aufweisen.

YouTube hat im Januar 2019 erstmals ein Verbot für die sogenannten Challenges eingeführt – einen Tag, nachdem ein Jugendlicher mit verbundenen Augen in einem Auto fuhr, während er an der sogenannten "Bird Box"-Herausforderung teilnahm. YouTube entfernte "eine Reihe" der Holz-Craft-Hacks und schränkte andere mit einer Altersbeschränkung ein, als das Unternehmen von MIT Technology Review darauf angesprochen wurde. Das Unternehmen gab jedoch nicht an, warum es gegen "Challenges" und "Pranks" vorgeht, nicht aber gegen Craft Hacks.

Wenn ein Video skurril ist, fällt es schwerer, es wegzuklicken

Es wäre sicherlich eine Herausforderung, dies zu tun – jedes 5-Minute Crafts-Video enthält zahlreiche Bastelarbeiten, von denen viele einfach nur bizarr aber nicht schädlich sind. Und die Zweideutigkeit in solchen Videos – eine Zweideutigkeit, die es in Challenge-Videos nicht gibt – kann für menschliche Moderatoren schwer zu beurteilen sein, ganz zu schweigen von einem KI-Filter. Im September 2020 setzte YouTube wieder menschliche Moderatoren ein, die während der Pandemie "offline" gesetzt worden waren, nachdem festgestellt worden war, dass die KI übereifrig vorging und sich die Zahl der fehlerhaften "Takedowns" zwischen April und Juni verdoppelt hatte.

Altersbeschränkung ist hilfreich

Wenn ein YouTube-Video mit einer Altersbeschränkung versehen ist, weil es gefährliche oder illegale Aktivitäten darstellt, kann das Video – laut Googles Support-Seiten – "nur begrenzt oder gar nicht mit Anzeigen monetarisiert werden". 5-Minute Crafts ist derzeit auf Platz 13 unter den meistabonnierten Kanälen auf YouTube; jede Woche gewinnt der Kanal etwa 30 Millionen weitere Aufrufe hinzu. Ms Yeah hat 11,7 Millionen Abonnenten und erreicht eine ähnliche Anzahl an wöchentlichen Aufrufen.

Schockierende oder fragwürdige Videos sind ein todsicherer Weg, um auf YouTube Aufmerksamkeit zu erregen und Gewinne zu erzielen. Wenn ein Video skurril ist, fällt es schwerer, es wegzuklicken; wenn es empörend ist, äußert man seine Empörung im Kommentarbereich. Laut Social Blade, einer Website, die Social-Media-Analysen durchführt, macht der 5-Minute-Crafts-Kanal zwischen 360.000 und 5,8 Millionen Pfund Umsatz [8] pro Jahr.

TheSoul Publishing, das über alle seine Kanäle hinweg mehr als 1 Milliarde Abonnenten hat, sagte, dass es als privates Unternehmen nicht offenlegen würde, wie viel es mit seinen Bastelvideos verdient. Wilkens bestritt, dass das Unternehmen absichtlich schockierende und problematische Videos produziere, und sagte: "Dies ist weder jetzt noch jemals Teil des Geschäftsmodells von TheSoul Publishing gewesen. Als führendes digitales Unternehmen sind wir bestrebt, Inhalte zu erstellen, die die meisten Menschen ansprechen – das ist das Ziel fast aller Produzenten von Inhalten, Werbekunden, Streaming-Diensten und Filmstudios."

YouTube muss warnen

Bertie Vidgen, Leiter des Online Harms Observatory am Alan Turing Institute, hält es für "schockierend", dass YouTube keine Warnhinweise bei den problematischen Holz-Craft-Hacks gesetzt hat. "Wenn Menschen bei dem Versuch, dies zu tun, gestorben sind, dann steht das fast außer Frage – es besteht eindeutig die Gefahr von Schäden", sagt er.

Mindestens ein YouTube-Short zum Thema – ein Video, das weniger als 60 Sekunden lang ist – mit insgesamt 21 Millionen Aufrufen bleibt bislang bestehen. Darin bestreichen zwei behandschuhte Hände das Holz mit Wasser und Backpulver, bevor sie Klammern und Drähte an zwei Nägeln befestigen. Das Holz beginnt zu brennen. YouTube hat das vollständige Video, auf das der Short verweist, entfernt, aber der Short enthält keine Warnhinweise. Der Kommentarbereich ist jedoch voll von Warnungen, von denen einige mit den Worten "Ich bin hier, nachdem ich Ann Reardons Video gesehen habe" beginnen.

"Ich denke, es muss etwas geben, das die Leute deutlich warnt", sagt sie. Seit Beginn ihrer Entlarvungsvideoserie hat sie Dankesmails von Eltern erhalten, die die Videos ihren Kindern gezeigt haben – und sogar von Kindern, die ihre Videos ihren Eltern gezeigt haben. "Ich habe das Gefühl: Wenn sich schon nichts ändert, dann ist es zumindest wichtig, das Bewusstsein zu schärfen."

[9]

(jle [10])

URL dieses Artikels:
https://www.heise.de/-7276283

Links in diesem Artikel:
[1] https://www.heise.de/Datenschutzerklaerung-der-Heise-Medien-GmbH-Co-KG-4860.html
[2] https://www.youtube.com/watch?v=vdaKrT9x1Zc&feature=youtu.be
[3] https://www.youtube.com/watch?v=wzosDKcXQ0I&t=795s&ab_channel=HowToCookThat
[4] https://twitter.com/chipspopandabar/status/1154481437308882945?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1154481437308882945%7Ctwgr%5E2a01e98e01aa6b69b499829c3ca2ceaec9d19d09%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fknowyourmeme.com%2Fmemes%2Fegg-bigger-than-before
[5] https://www.youtube.com/watch?v=ApO4c2AkLqw&list=PLPT0YU_0VLHxJMqHBC2_OMTYWwQ5z_iP4&index=2&ab_channel=HowToCookThat
[6] https://onlinelibrary.wiley.com/doi/full/10.1002/emp2.12330
[7] https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7940498/
[8] https://socialblade.com/youtube/channel/UC295-Dw_tDNtZXFeAPAW6Aw
[9] https://www.instagram.com/technologyreview_de/
[10] mailto:jle@heise.de

Copyright © 2022 Heise Medien