Firmy AI straszą nas „Terminatorem”? Eksperci mówią, że to może być chwyt marketingowy

Czarne scenariusze dotyczące sztucznej inteligencji są różne: stracisz pracę, wszystko zostanie zhakowane albo ludzkość zostanie zniszczona. Wszystkie mają jednak ten sam cel – przekonać cię, że AI jest tak potężna, iż powinieneś się jej przynajmniej trochę bać.

Duże firmy zajmujące się sztuczną inteligencją chętnie opowiadają, jak niebezpieczny jest ich najnowszy program AI. A później za każdym razem robią to samo – mimo wszystko wprowadzają go na rynek.

Już siedem lat temu OpenAI informowało, że obawia się niewłaściwego wykorzystania opracowanej przez siebie technologii. Był początek 2019 roku, prawie cztery lata przed tym, jak firma zdobyła ogromną popularność dzięki ChatGPT. OpenAI pracowało wówczas nad wczesną wersją programu AI, na którym później oparto usługę czatu.

Program ten nosił nazwę GPT-2 i według OpenAI mógł prowadzić do poważnych problemów. Ludzie mogli wykorzystywać go do tworzenia wprowadzających w błąd wiadomości, pisania tekstów służących do oszustw albo publikowania obraźliwych treści w mediach społecznościowych. Z tego powodu początkowo udostępniono go jedynie w ograniczonym zakresie.

Ostrożność nie trwała jednak długo. Dziewięć miesięcy później GPT-2 został w pełni udostępniony, choć OpenAI nadal zaznaczało, że program może być wykorzystywany do tworzenia treści rasistowskich lub terrorystycznych.

„Konsekwencje mogą być ogromne”

W tym roku podobnie postąpiła firma Anthropic. Twierdziła, że dzięki jej programowi AI o nazwie Mythos każdy, nawet bez wiedzy technicznej, mógłby przeprowadzać ataki hakerskie.

– Konsekwencje dla gospodarki, bezpieczeństwa publicznego i bezpieczeństwa narodowego mogą być ogromne – ostrzegała firma.

Dlatego, jak twierdziła, program został udostępniony jedynie niewielkiej grupie przedsiębiorstw i organizacji.

– Sama nazwa Mythos jest oczywiście genialna – mówi Hannes Cools z Uniwersytetu Amsterdamskiego, który bada język używany w dyskusjach o sztucznej inteligencji. – Kojarzy się z mitologią grecką, jakby chodziło o jakiegoś boga. To sprawia, że szybko zaczynamy myśleć o czymś niezwykle potężnym i wszechmocnym.

Zdaniem Coolsa rozgłos wokół Mythosa pomógł firmie Anthropic, gdy kilka miesięcy później wypuściła Fable – wariant Mythosa, który miał być „bezpieczny do powszechnego użytku”.

– Dzięki Mythosowi również Fable zyskał podobną aurę wyjątkowości. Ostatecznie oczywiście chodzi im o sprzedaż produktu – uważa badacz.

Wykorzystywanie strachu na swoją korzyść

Zdaniem eksperta technologicznego Berta Huberta firmy AI stosują tę strategię bez przerwy.

– Co kilka miesięcy mówią: „Nasza technologia jest tak niebezpieczna i przerażająca, że musimy obchodzić się z nią niezwykle ostrożnie”. Za każdym razem zapewnia im to ogromne zainteresowanie. A sześć tygodni później ogłaszają, że produkt można już kupić albo z niego korzystać – mówi.

Firmy AI sprzedają opowieści, ponieważ chcą zarabiać. To, czego chcą, niekoniecznie leży w interesie zwykłych ludzi.

Andrea Reyes Elizondo, badaczka Uniwersytetu w Lejdzie

W ubiegłym tygodniu Hubert ponownie zauważył taki przypadek, tym razem znów dotyczący OpenAI. Firma poinformowała, że jeden z jej programów AI przypadkowo włamał się do systemu innego przedsiębiorstwa.

– Normalnie nazwalibyśmy to przestępstwem, ale OpenAI zamienia złą wiadomość w dobrą. Mówi, że zrobiło coś głupiego, ale jednocześnie podkreśla, jak potężna jest jego technologia – ocenia ekspert.

Zdaniem badacza z Uniwersytetu Amsterdamskiego OpenAI dobrze rozumie, jak wykorzystać podobne sytuacje na swoją korzyść. Można się tego spodziewać po firmie komercyjnej. Cools uważa jednak, że problem dotyczy przede wszystkim sposobu, w jaki media opisują takie wydarzenia. Piszą na przykład, że program AI „wymknął się spod kontroli”.

– To nie jest to, co się wydarzyło, ale takie określenie brzmi tak, jakby włączyły się wszystkie alarmy – mówi.

Według Coolsa sposób przedstawiania sztucznej inteligencji sprawia, że ludzie zaczynają myśleć o filmie science fiction „Terminator”.

– Określenia takie jak „wymknęła się spod kontroli” utrudniają nam właściwe zrozumienie tego, co ta technologia naprawdę potrafi, a czego nie potrafi. Jest to szkodliwe, ponieważ pomaga OpenAI budować narrację, że to AI popełniła błąd, a nie firma, mimo że odpowiedzialność spoczywa właśnie na OpenAI – podkreśla.

„Firmy sprzedają określoną narrację”

– OpenAI i Anthropic chcą kontrolować sposób, w jaki dana historia trafia do opinii publicznej – mówi Andrea Reyes Elizondo.

Jest badaczką w Centrum Studiów nad Nauką i Technologią Uniwersytetu w Lejdzie, gdzie analizowany jest wpływ nauki i technologii na społeczeństwo.

– Opowiadają swoją historię w taki sposób, aby ludzie uznali, że AI jest dobra albo przerażająca, a przynajmniej że daje ogromne możliwości – wyjaśnia.

Jej zdaniem do komunikatów firm należy podchodzić krytycznie.

– Ich przekaz jest kierowany do różnych grup. Gdy szef firmy mówi, że AI odbierze nam pracę, zwraca się przede wszystkim do swoich klientów, czyli dyrektorów innych przedsiębiorstw. Chce, aby uwierzyli, że mogą zastąpić pracowników sztuczną inteligencją i w ten sposób obniżyć koszty. Firmy AI sprzedają określone narracje, ponieważ chcą zarabiać – mówi Reyes Elizondo.

– To, czego chcą, niekoniecznie leży w interesie zwykłych ludzi ani całego społeczeństwa. Dlatego zawsze warto zadać sobie pytanie: dlaczego firma właśnie to mówi?

źródło: nos.nl