Nie drap się po uchu, gdy prowadzisz samochód, bo to drogo kosztuje

Pewien Holender jadąc drogą, bezwiednie podrapał się po uchu. Był to ruch tak prosty i tak naturalny, iż mężczyzna zapewne wtedy nawet go nie zarejestrował. Po kilku dniach wiedział jednak doskonale, że to zrobił. WIedział nawet dokładnie kiedy i gdzie. W skrzynce na listy znalazł bowiem mandat w wysokości 380 euro za rozmowę przez telefon podczas prowadzenia pojazdu. Inteligentny system okazał się bowiem nie być tak inteligentny jak powinien.

„Stwierdzono, że muszę zapłacić 380 euro, plus 9 euro kosztów administracyjnych. Ale nie pamiętałem, żebym jechał tak szybko autostradą A2 w pobliżu Weert” – powiedział dziennikarzom AD Tim Hanssen, adresat wspomnianego wyżej listu. Zdziwiony całą sytuacją mężczyzna poprosił policję o wyjaśnienie i wysłanie mu dowodu w postaci zdjęcia, jakie zostało mu wtedy zrobione. Wtedy to okazało się, iż nie chodzi tu o przekroczenie prędkości.

Telefon widmo

„Kiedy poprosiłem o zdjęcie, zobaczyłem, że po prostu trzymam rękę na głowie. To sprawiło, że algorytm pomyślał, że używam smartfonu. Ale tak nie było. Pomiędzy moją dłonią a głową było tylko kilka ciemnych pikseli” – powiedział dziennikarzom.

Kosa na kamień

Mężczyzna postanowił, iż tak nie zostawi sprawy. Na jego szczęście sam bowiem pracuje w firmie zajmujące się AI. Sam tworzy algorytmy do analizy i edycji obrazów. Problem więc jaki mu się przydarzył, był jednym z takich, jakie często sam rozwiązuje podczas swojej pracy.

Kontekst

Jak wskazuje, sam kiedyś miał zabawną przygodę z długopisem. Algorytm analizujący zdjęcia rozpoznał długopis, gdy mężczyzna trzymał go w ręce na blacie stołu. Kiedy jednak przyłożył go bliżej ust, dla komputera długi wąski przedmiot był już szczoteczką do zębów. Tu uważa, iż było tak samo. Algorytm fotoradaru nie wykrył telefonu, ale złapał dziwne ułożenie ręki człowieka, które pasuje do tego, gdy ktoś trzyma telefon przy uchu. W tym momencie brak telefonu nie miał znaczenia, bo dla AI większość się zgadzała. Tak jak z długopisem jako szczoteczką, jest długie i przy ustach więc to szczoteczka, nie ma znaczenia, że nie ma włosia.

„Być podczas szkolenia algorytmowi pokazywali  wiele osób dzwoniących ze smartfonem w ręce przy głowie. Oznacza to, że wystarczyło, że zobaczył moją rękę przy uchu i kilka ciemnych pikseli obok niej, aby stwierdzić, że dzwonię” – wspomina mężczyzna.

Problem

Mężczyzna nie ma tu do systemu żadnych pretensji. Algorytmy potrafią się mylić. Nie rozumie jednak, skąd wziął się mandat. Każde takie zdjęcie powinno być bowiem analizowane przez człowieka, który jest tutaj osobą decyzyjną. To on powinien przeanalizować materiał i tak w tej sytuacji też się zapewne stało. Jak więc człowiek zobaczył coś, czego nie ma?

Waga sugestii

Tutaj poszkodowany Holender wskazuje na człowieka. „Jeśli urzędnikowi pokaże się to zdjęcie, a sztuczna inteligencja wskaże, że prawdopodobnie przedstawia osobę dzwoniącą, może to wpłynąć na niego i szybko wyciągnie błędne wnioski” – mówi. Mówiąc inaczej, urzędnik przegląda setki zdjęć, które widnieją jako takie, na których kierowca rozmawia przez telefon. W większości przypadków algorytm ma rację. Dlatego też człowiek coraz bardziej mu ufa. W tym momencie mogą wejść w życie dwa mechanizmy.

Pierwszy to po prostu brak dokładności człowieka i brak dokładnej analizy. Drugi to taki, iż gdy człowiek ma wątpliwości, szuka wsparcia na potwierdzenie. Tu zaś pojawia się AI wskazujące, iż człowiek ten ma telefon. To zaś sugeruje decyzję.
Dlatego też Tim uważa, iż „System powinien po prostu wskazać, że zauważył dłoń przy głowie kierowcy. A nie że widzi na zdjęciu smartfon”.

Sąd

Holender złożył więc protest i odwołanie od decyzji o mandacie. Na odpowiedź może nawet poczekać jednak 26 tygodni. Do tego czasu nie musi jednak płacić. Problem w tym, iż policja może zadziałać szybciej i skierować sprawę do sądu. Kierowca jednak nie boi się takiego rozwoju sprawy. Wie, że jest niewinny i wie, że na fotografii, którą otrzymał, nie ma telefonu. Stwierdza więc, że z chęcią wyjaśni przed sądem, jak doszło do tego błędu i że policyjne algorytmy nie działają poprawnie.

Można się zapytać, dlaczego więc nie dopracuje się AI. Odpowiedź jest prosta, chodzi o wyniki fałszywie negatywne. Lepiej bowiem zrobić więcej zdjęć i odsiać od nich zdjęcia niewinnych osób, niż wykonywać tylko zdjęcia ze 100% użyciem telefonu, ale pomijać wiele sytuacji, w których telefon był wykorzystany, ale np. trzymany w nieoczywisty sposób.
Jaki więc z tego morał? Po pierwsze nie używać telefonu podczas jazdy. Po drugiej unikać drapania się po uchu.

Źródło:  AD.nl