Chatbot AI Grok od Elona Muska musi zaprzestać

w Holandii funkcji „rozbierania”

Platforma społecznościowa X należąca do Elona Muska musi zadbać o to, by Grok w Holandii nie mógł już tworzyć nagich obrazów niczego nieświadomych osób. Tak orzekł w czwartek sąd w Amsterdamie. Za kilka miesięcy aplikacje „rozbierające” mają zostać całkowicie zakazane w Europie.

Bez wyraźnej zgody osoby znajdującej się na zdjęciu Grok nie może już generować obrazów przedstawiających jej rozbieranie. Zakaz obejmuje także częściowe „rozbieranie”. Wyrok amsterdamskiego sądu stanowi, że dotyczy to osób mieszkających w Holandii.

Centrum eksperckie ds. nadużyć online Offlimits oraz Fundusz Pomocy Ofiarom (Fonds Slachtofferhulp) wniosły miesiąc temu pozew przeciwko xAI – firmie rozwijającej Grok dla platformy X. Organizacje domagały się zakazu działania tego narzędzia AI, ponieważ tworzenie i rozpowszechnianie nagich obrazów bez zgody jest przestępstwem.

Za pomocą Groka było to łatwe i możliwe na dużą skalę. Użytkownicy X mogli przy każdym zdjęciu poprosić o usunięcie ubrań. Nie miało znaczenia, czy przedstawiano dorosłych, czy dzieci. Chatbot spotkał się z dużą krytyką, ponieważ miał obniżać próg dla internetowych nadużyć seksualnych. Według Bloomberga Grok tworzył tysiące takich obrazów na godzinę.

Za każdy dzień, w którym firma nie zastosuje się do wyroku, chatbot nie może być oferowany. Dodatkowo xAI będzie musiało zapłacić karę w wysokości 100 000 euro dziennie, do maksymalnie 10 milionów euro.

Dyrektor Offlimits, Robbert Hoving, powiedział w rozmowie z NU.nl, że jest bardzo zadowolony z wyroku. „Zrobiliśmy to dla holenderskich ofiar. Ale Grok nie wie, skąd pochodzą ofiary, więc w praktyce dotyczy to całego świata.”

„Dla ofiar nie ma znaczenia, czy obraz jest ‘prawdziwy’, czy wygenerowany przez AI” – powiedziała w zeszłym miesiącu Ineke Sybesma z Funduszu Pomocy Ofiarom. „Najokrutniejsze jest to, że nie ma to końca. Wstyd jest prawdziwy, skutki są realne i to nie znika samo, bo internet nie zapomina.”

Europa chce zakazać „rozbierających” aplikacji

W czwartek Parlament Europejski podjął również decyzję w sprawie takich aplikacji. Większość europosłów poparła zakaz narzędzi AI zdolnych do usuwania ubrań ze zdjęć. Zakaz nie wejdzie w życie natychmiast, ale najprawdopodobniej zacznie obowiązywać od lipca we wszystkich krajach UE.

Hoving uważa, że zakaz stworzy precedens także poza Unią Europejską. „Obecnie amerykańskie wyszukiwarki, takie jak Google i Bing, wciąż pokazują te aplikacje w wynikach wyszukiwania” – mówi.

„Wkrótce to również nie będzie dozwolone. Ale jedno jest pewne: prawo pozostanie martwe, jeśli nie będzie egzekwowane. Jeśli firmy nie będą przestrzegać zakazu, trzeba będzie podjąć zdecydowane działania.”

Holandia była niezdecydowana

W Holandii od dawna trwa dyskusja nad sposobami regulacji aplikacji AI. Tworzenie deepfake’owych nagich obrazów jest już zakazane, ale same aplikacje funkcjonują w prawnej szarej strefie.

Na początku tego roku ustępujący minister sprawiedliwości i bezpieczeństwa Foort van Oosten określił takie zjawiska jako „wyjątkowo naganne”.

Mimo to znalezienie i wdrożenie odpowiednich rozwiązań okazało się trudne. Instytucje takie jak Urząd Ochrony Danych Osobowych, Urząd ds. Konsumentów i Rynku oraz organ ds. zwalczania treści terrorystycznych i pornografii dziecięcej uznały problem za bardzo złożony.

źródło: nu.nl