W ostatnich sekundach swojego życia Tetiana B. nie była już 19-letnią studentką, a jedynie punktem danych. A jej zabójcą nie był człowiek, lecz oprogramowanie, które namierzyło B. W lipcu w Zaporożu, dużym mieście położonym na południowym wschodzie Ukrainy, w pobliżu linii frontu, trzech cywilów zginęło w ataku drona, który miał być sterowany całkowicie autonomicznie przez sztuczną inteligencję. To oznacza zabicie ludzi bez żadnego udziału człowieka.
Według "New York Timesa" dron eksplodował podczas zbliżania się do stacji benzynowej, uderzając w ścianę i rozrzucając odłamki w powietrzu. Zgodnie z relacją z miejsca zdarzenia Tetiana B., która jeszcze próbowała uciekać, wykrwawiła się na miejscu.
"New York Times" donosi również, że dwóch mężczyzn, 48-latek i 41-latek zmarli w szpitalu na skutek odniesionych obrażeń. Analityczka z think tanku Center for Strategic and International Studies (ang. Centrum Strategicznych i Międzynarodowych Studiów) powiedziała gazecie, że zabicie cywilów przez autonomiczny dron jest pierwszym udokumentowanym przypadkiem tego rodzaju.
(...)
Działa to w następujący sposób: za pomocą wbudowanej kamery dron skanuje otoczenie podczas lotu i porównuje je z zapisanymi zestawami danych. Jeśli chce się na przykład zniszczyć stacje benzynowe za pomocą dronów, jak ostatnio coraz częściej robili to Rosjanie w Ukrainie, wprowadza się do nich zdjęcia stacji benzynowych. Sztuczna inteligencja rozpoznaje je następnie podczas przelotu na podstawie ich kształtu i automatycznie rzuca się na nie.
Proces ten nie jest pozbawiony ryzyka. Dziennikarz Simon Shuster opisał niedawno w magazynie "Atlantic", że ukraiński producent dronów już kilka lat temu pokazał mu system sztucznej inteligencji, w którym za pomocą suwaka można było regulować precyzję namierzania celu. Na najniższym poziomie do automatycznego ataku wystarczałoby 30-procentowe dopasowanie do zapisanego celu, a na najwyższym — 90-procentowe.
W związku z tym nawet przy najbardziej ostrożnym ustawieniu nadal należałoby liczyć się ze stratami ubocznymi spowodowanymi błędnymi decyzjami. Według Shustera producenci powiedzieli mu wówczas, że sami uważają tę technologię za zbyt ryzykowną i dlatego nie będą jej dostarczać.
Trudno powiedzieć, czy było to wówczas prawdą i jak producenci postrzegają tę kwestię dzisiaj. Już samo udowodnienie, że atak został przeprowadzony przy użyciu sztucznej inteligencji, okazuje się trudne. Jak dotąd eksperci opierają się przede wszystkim na poszlakach.
W sprawie Zaporoża ukraińskie władze przedstawiły gazecie "New York Times" ustalenia, które mają potwierdzać autonomiczne użycie dronów. Zgodnie z nimi zabójczy dron typu Mołnia był częścią roju, co jest typowe dla dronów autonomicznych. Ponadto nie wysyłały one żadnych sygnałów radiowych. W dronach, które nie wybuchły na kawałki, znaleziono też elementy techniczne wskazujące na wykorzystanie sztucznej inteligencji.
Ekspert ds. dronów Fabian Hinz z brytyjskiej organizacji pozarządowej Conflict Armament Research (ang. Badań nad uzbrojeniem stosowanym w konfliktach) na podstawie tych informacji zakłada, że dron typu Mołnia użyty podczas ataku [w Zaporożu] rzeczywiście był egzemplarzem sterowanym przez sztuczną inteligencję. — Znaleziony sprzęt jest zbyt złożony jak na zwykły dron typu Mołnia. Ten typ drona ma bardzo prostą konstrukcję, w której wykorzystano głównie komponenty, które w naszym kraju [w Niemczech] można po prostu zamówić na Amazonie — mówi analityk w rozmowie z serwisem Die Welt.
Drony użyte w Zaporożu miały jednak najwyraźniej inną konstrukcję. Według Hinza nie miały one anteny, co wskazuje, że nie istniało połączenie radiowe z pilotem. Zamiast tego, jak podaje "New York Times", zainstalowano w nich układ Nvidia Jetson. To tak zwana platforma obliczeniowa typu embedded, czyli "moduł, który ze względu na swoją konstrukcję i moc obliczeniową jest bardzo silnie kojarzony z systemami sztucznej inteligencji" — wyjaśnia Hinz.
onet.pl\Die Welt