Broń autonomiczna a broń wspomagana przez AI: dlaczego to rozróżnienie ma znaczenie

Myśliwiec z systemem ostrzegania radarowego wspomaganym przez AI to nie broń autonomiczna. System logistyczny, który uczeniem maszynowym przewiduje zapotrzebowanie na części zamienne, też nie. Oba są „wspomagane przez AI" w luźnym sensie, ale żaden nie wybiera i nie atakuje celów samodzielnie — a to właśnie ta węższa, konkretna cecha stoi za pojęciem „broń autonomiczna". Mylenie tych dwóch kategorii utrudnia śledzenie zarówno technologii, jak i debaty politycznej.

Dwa różne pytania pod jednym rozmytym słowem

„Wspomagane przez AI" opisuje ogromny i wciąż rosnący zakres systemów wojskowych: narzędzia analizy wywiadowczej, predykcyjne utrzymanie sprzętu, panele wspierające decyzje, systemy nawigacji, a czasem także systemy celowania. To opis technologii, obecnej w bardzo szerokim zakresie funkcji. „Broń autonomiczna" opisuje coś węższego i definiowanego funkcjonalnie, nie technologicznie: system, który po aktywacji sam wybiera i atakuje cele, bez dalszego udziału człowieka. System może być „wspomagany przez AI" i wciąż wymagać zatwierdzenia każdego ataku przez człowieka; system może w zasadzie być „autonomiczny" w sensie celowania, korzystając z automatyzacji dużo prostszej niż dzisiejsze uczenie maszynowe. Kategorie się przecinają, ale żadna nie wynika z drugiej.

Raport RAND Corporation z 2020 roku, „Military Applications of Artificial Intelligence: Ethical Concerns in an Uncertain World", autorstwa Forresta E. Morgana i współpracowników, jest przydatny właśnie dlatego, że traktuje wojskowe AI jako szeroką kategorię — obejmującą logistykę, analizę wywiadowczą, operacje cybernetyczne i wsparcie decyzji, obok samej broni — a nie zakłada, że każde zastosowanie AI w wojsku jest pytaniem o broń. Porównanie w raporcie tego, jak różne państwa podchodzą do wdrażania AI, pokazuje, jak duża część rzeczywistych inwestycji leży poza czymkolwiek przypominającym broń autonomiczną.

Dlaczego to mylenie jest powszechne — i wygodne

Debata publiczna zaciera te dwie kategorie ze zrozumiałych powodów: nagłówki o „zabójczych robotach" przyciągają więcej uwagi niż teksty o oprogramowaniu do predykcyjnego utrzymania sprzętu, a każdy system zawierający komponent uczenia maszynowego można — technicznie poprawnie, choć mylnie — opisać jako „technologię broni AI". To mylenie działa w obie strony politycznie. Może służyć uczynieniu zwykłej automatyzacji przerażającą, albo — równie często — sprawieniu, że realna zdolność autonomicznego celowania brzmi jak zwykła modernizacja „wspomagana przez AI", niczym niegroźny algorytm konserwacyjny. Przejście przez etykietę wymaga zadania konkretnego pytania: czy ten system wybiera i atakuje cele bez człowieka w tej konkretnej decyzji, czy AI siedzi gdzie indziej w łańcuchu — w wykrywaniu, analizie, logistyce, rekomendacji?

Gdzie kategorie faktycznie się nakładają

Naprawdę trudne przypadki leżą na styku obu kategorii. Nowoczesne systemy obrony powietrznej od dawna mają zautomatyzowane tryby ataku na wypadek scenariuszy nasycenia, w których czas reakcji przekracza możliwości człowieka — poprzedzają one dzisiejsze metody AI, ale rodzą te same pytania o kontrolę człowieka w ostrej formie. Amunicja krążąca, która może przeszukiwać wyznaczony obszar i atakować cel dopasowany do wcześniej ustalonych kryteriów, wchodzi jeszcze głębiej w niejednoznaczny teren: to, czy taki system liczy się jako „broń autonomiczna" w rozumieniu CCW, często zależy od tego, jak dokładnie ustalono kryteria celu i ile swobody ma system. Te graniczne przypadki są powodem, dla którego debata międzynarodowa coraz częściej odchodzi od sporu o jedną definicję „broń autonomiczna: tak czy nie" w stronę ramy kontroli człowieka opisanej w naszym tekście o znaczącej kontroli człowieka — kontekst użycia i sposób ustawienia kontroli liczą się tyle samo, co sama technologia.

Dlaczego trafne rozróżnienie ma znaczenie dla polityki

• Kształtuje to, co regulacja w ogóle miałaby obejmować. Zakaz czy ścisła regulacja skierowana na „broń AI" w szerokim ujęciu objęłaby narzędzia wsparcia decyzji i logistyki, które nie budzą żadnych wątpliwości dotyczących autonomii celowania; regulacja skierowana wąsko na autonomiczne celowanie mogłaby z kolei pominąć zautomatyzowane systemy, które nie korzystają z dzisiejszego uczenia maszynowego, ale rodzą te same pytania o kontrolę człowieka.
• Wpływa na to, jak stosuje się istniejące prawo. Stanowisko MKCK w sprawie autonomicznych systemów bojowych celowo obejmuje wyłącznie systemy, które same wybierają i atakują cele — nie AI w wojsku w ogóle — bo reguły celowania międzynarodowego prawa humanitarnego są przypisane do tej konkretnej funkcji, nie do samej obecności oprogramowania.
• Wpływa na wiarygodność debaty w oczach opinii publicznej. Publicystyka czy raportowanie, które traktuje każde wojskowe zastosowanie AI jako kwestię „broni autonomicznej", traci wiarygodność u odbiorców znających się na temacie — i utrudnia skupienie uwagi na węższej grupie systemów, gdzie pytanie o kontrolę człowieka jest naprawdę aktualne.

Prosty test

Oceniając informację o wojskowym systemie AI, warto zapytać: jaką konkretnie decyzję podejmuje komponent AI i czy wybór celu albo atak są wśród nich bez udziału człowieka na tym etapie? Jeśli odpowiedź brzmi „nie" — AI rekomenduje, analizuje, przewiduje albo wspomaga, ale to człowiek decyduje, czy zaatakować — system mieści się w dużo szerszej kategorii „wspomagany przez AI". Jeśli odpowiedź brzmi „tak", warto sięgnąć po bardziej precyzyjne określenie „broń autonomiczna" wraz z pytaniami o kontrolę człowieka i prawo, które się z nim wiążą.

O tym, jak definiuje się kwestię kontroli człowieka w debacie politycznej, piszemy w tekście czym jest „znacząca kontrola człowieka". O tym, jak stosują się przepisy prawne, gdy system faktycznie przekracza próg autonomicznego celowania, piszemy w artykule o prawie humanitarnym a decyzjach o celowaniu wspomaganych przez AI. Więcej o naszym zakresie redakcyjnym na stronie głównej Agent AI Army.