Jak popełnić samobójstwo, krótki poradnik dla dzieci

YouTube Kids miał być platformą bezpieczną, z której maluchy mogłyby spokojnie korzystać, bez obaw rodziców, że ich pociechy natrafią na materiały nie dla tak młodych oczy. Stało się jednak inaczej.

Dwie strony YouTube

YouTube to ogólnoświatowa platforma, na którą w każdej sekundzie trafiają dziesiątki minut najróżniejszych filmów z całego świata. Znaleźć tam można śmieszne psy i koty, ale również nagrania z wypadków samochodowych, a nawet jak to miało miejsce parę lat temu, filmy z egzekucji wykonywanych przez ISIS. Jest tam więc z jednej strony, potężna dawka wiedzy i zabawy, z drugiej zaś przemoc i sex, których dzieci nie powinny oglądać.

Rozwiązanie dla dzieci

By uchronić najmłodszych przed brutalnością świata, projektanci YouTube postanowili stworzyć jego nową wersję, skierowaną głównie dla najmłodszych. YouTube Kids wystartował w 2015 roku i oferował posiadaczom tej aplikacji tylko starannie wybrane materiały o walorach edukacyjnych, czy śmieszne filmy bajki bez przemocy. Aplikacja ta dzięki swoim filtrom i algorytmom blokowała dostęp do wszystkich treści nieodpowiednich dla młodzieży. Rodzic mógł więc bez obaw pozwolić malcowi na korzystanie z tej aplikacji i powiedzieć nawet „oglądaj, a może się czegoś nauczysz”. Niestety coś poszło nie tak.

Pierwsze syndromy

O tym, że warto kontrolować aplikację, która kontroluje YouTube, przekonała się Free Hess młoda matka, a zarazem lekarka, która codziennie ma kontakt z przemocą i samookaleczeniem się nieletnich. Podczas jednego z nagrań z popularnej gry „Splatoon”, na ekranie pojawił się mężczyzna z brzytwą, który demonstrował maluchom jak podciąć sobie żyły, tak by tylko się okaleczyć lub wykrwawić na śmierć.

„Pamiętajcie dzieci - w poprzek dla zwrócenia uwagi, wzdłuż dla rezultatów”

Kobieta na nagranie to trafiła już w lipcu ubiegłego roku. YouTube zareagował i usunął to nagranie. Wydawało się, że zagrożenie minęło, a pracownicy internetowego giganta bliżej przyjrzą się swoim filtrom w aplikacji dla dzieci.

Ponowne uderzenie

Przez pół roku obyło się bez podobnych incydentów, lecz w tym tygodniu, wspomniany już filmik znów trafił do sieci dla najmłodszych. Szybko okazało się, że to jednak tylko przysłowiowy wierzchołek góry lodowej. Wśród filmików dla dzieci znalazły się połączenia fragmentów japońskich kreskówek, na których bohaterowie popełniają samobójstwo, przemoc domową czy handel ludźmi. Znaleźć możemy tam również inscenizacje szkolnych strzelanin, czy też filmy z udziałem Pedobear’a, maskotki utożsamianej z pedofilami.

YouTube musi zmienić kryteria doboru

Film, z poradą dotyczącą samobójstwa, umknął algorytmom skanującym najprawdopodobniej, dzięki zastosowaniu green boxa i nałożeniu postaci na tło zapisu z gry. W przypadku jednak innych wymienionych tu przykładów nie wiadomo czemu robotom YouTube nie udało się wyłapać szkodliwych treści. Jak informują władze koncernu, rozpoczęto już pracę nad poprawą filtrów. Wszystko pokazuje jednak, że nic nie zastąpi odpowiedniej kontroli rodzica nad tym, co ogląda jego pociecha.