Detektor broni AI zawiódł
Detektor broni AI zawiódł. O czym dokładnie piszemy? Ano o rannym nastolatku który przeżył strzelaninę w styczniu 2025 roku w liceum w Nashville w stanie Tennessee. Miał dużo szczęścia bo w owym zdarzeniu zginęły dwie osoby. Całkiem niedawno pozwał on producenta systemu AI do wykrywania broni, który nie wykrył pistoletu wniesionego na teren szkoły.
Dobre założenia, złe wyniki
Pozwaną firmą jest Omnilert. Twórca oprogramowania szczycił się tym, że stworzył system bazujący na AI do szybkiego wykrywania i alarmowania o wniesionej do zastrzeżonych pomieszczeń broni. Czy był to dobry pomysł? Cóż… Z pewnością wykaże to sąd, który właśnie się nad tą sprawą pochylił.
Co się tyczy zaś założeń pozwu, to dotyczą one w głównej mierze problemom związanym z jego niedoskonałością. Możemy w nim przeczytać, że firma powinna była wiedzieć, że istnieją „istotne ograniczenia operacyjne w jej systemie wykrywania działa, które mogą skutkować awariami wykrywania podczas rzeczywistych sytuacji awaryjnych, w tym ograniczenia związane z rozmieszczeniem kamery, bliskością broni do czujników kamery, kątem kamery, oświetleniem i widocznością broni.”
Czyli generalnie założenia były dobre, ale rzeczywistość okazała się bardziej brutalna. Szybko zweryfikowała opisy i zachwyty marketingowców i ich pierwotnych opisach o „niezrównanej niezawodności” na stronie produktu. Tak przy okazji, zostały one usunięte ze strony zaraz po strzelaninie. Na całe szczęście (zależy dla kogo) z internetu nic nie znika. Udało się odtworzyć jej pierwotną wersję poprzez „wayback machine” na web.archive.org
Znowu AI?
Tak, wiem. Znowu „znęcam się” nad sztuczną inteligencją. Czasem po prostu trzeba napisać, że AI nie zawsze jest lepsza od człowieka. Jeden ochroniarz z bramką do wykrywanie metalu na wejściu, miałby większą szansę na znalezienie broni niż ona.
Przeczucie i intuicja „Cerbera” przy wejściu oraz zmiana zachowania u człowieka, który widzi moment kontroli, często staje się przyczynkiem do zaniechania ataku. Działa więc mocno profilaktycznie. System autonomiczny nie posiada tego typu elementu i często jest podatny na awarie a także problemy techniczne.
Co zatem jest lepsze? To tak samo jak „z mieczem i tarczą”. Raz wygrywa jedno a raz drugie. Jednak w moim przypadku zdał bym się bardziej na człowieka niż maszynę. W sytuacji, która wydarzyła się w szkole, zawiódł przede wszystkim marketing. Za „dobrze” opisał produkt i nie podał możliwych komplikacji. Co przyniesie werdykt sądu? Tego jeszcze nie wiemy, ale mam nadzieję, że przywróci choć trochę rozsądku, zarówno dla firm jak i szkół.
Do następnego!
