Jak międzynarodowe prawo humanitarne traktuje decyzje o celowaniu wspomagane przez AI

Międzynarodowe prawo humanitarne (MPH) nie ma osobnego zbioru reguł dla AI. Podstawowe zobowiązania rządzące każdym atakiem — rozróżnianie kombatantów od cywilów, ważenie oczekiwanej korzyści wojskowej wobec oczekiwanej szkody wśród ludności cywilnej, podejmowanie wykonalnych środków ostrożności — obowiązują niezależnie od tego, czy w decyzji uczestniczy człowiek, algorytm celowania, czy jedno i drugie naraz. To, co zmienia wspomaganie AI, to nie standard prawny, ale to, jak trudno wykazać, że standard rzeczywiście został spełniony.

Trzy zobowiązania, które się nie przesuwają

Trzy zasady MPH, wypracowane na długo przed pojawieniem się celowania wspomaganego przez AI, tworzą szkielet oceny każdej decyzji o ataku:

• Rozróżnienie. Strony konfliktu muszą przez cały czas rozróżniać kombatantów od cywilów oraz obiekty wojskowe od cywilnych, kierując ataki wyłącznie w te pierwsze.
• Proporcjonalność. Atak jest zakazany, jeśli oczekiwana szkoda uboczna wśród cywilów lub obiektów cywilnych byłaby nadmierna w stosunku do konkretnej i bezpośredniej korzyści wojskowej, jakiej się spodziewano.
• Środki ostrożności przy ataku. Osoby planujące lub decydujące o ataku muszą podjąć wszystkie wykonalne środki ostrożności, by zweryfikować cele, wybrać środki i metody minimalizujące szkodę uboczną oraz odwołać lub wstrzymać atak, jeśli okaże się, że cel nie jest zgodnym z prawem obiektem wojskowym albo że szkoda byłaby nieproporcjonalna.

Te zobowiązania należą do korpusu zwyczajowego i traktatowego MPH, który powstał na długo przed jakimkolwiek systemem AI, i nie łagodnieją dlatego, że gdzieś w łańcuchu decyzyjnym pojawia się model uczenia maszynowego. Pytanie, jakie stawia MPH, nie brzmi „czy użyto AI", tylko „czy atak był zgodny z prawem" wedle tych standardów — a na to pytanie trzeba odpowiedzieć niezależnie od tego, w jaki sposób podjęto decyzję o celowaniu.

Gdzie wspomaganie AI faktycznie utrudnia zgodność

Analiza MKCK w tekście „Autonomous Weapon Systems and International Humanitarian Law: Selected Issues" pokazuje, gdzie celowanie wspomagane przez AI albo autonomiczne rodzi napięcie w praktyce, a nie w zasadzie:

• Weryfikacja rozróżnienia trudniej się audytuje. Analityk-człowiek może po fakcie wyjaśnić, dlaczego uznał cel za wojskowy, a nie cywilny. Osąd klasyfikatora opartego na uczeniu maszynowym trudniej sprowadzić do jasnego, weryfikowalnego uzasadnienia — a to ma znaczenie zarówno dla bieżącej weryfikacji, jak i dla późniejszego rozliczenia prawnego.
• Proporcjonalność to osąd kontekstowy, nie obliczenie. Ważenie „nadmiernej" szkody wobec „oczekiwanej" korzyści wojskowej wymaga oceny kontekstowej, do której dzisiejsze systemy nie są zaprojektowane — pozycja artyleryjska w pobliżu szkoły czyta się zupełnie inaczej w zależności od kontekstu, do którego system może nie mieć dostępu.
• Środki ostrożności zakładają bieżącą ponowną ocenę. Obowiązek odwołania ataku, gdy okoliczności się zmienią (np. okazuje się, że w celu schronili się cywile), zakłada, że ktoś jest w stanie zauważyć nową informację i zareagować na nią aż do momentu ataku — a to trudniej zagwarantować, im większa część cyklu celowania jest zautomatyzowana i im krótsze jest okno na interwencję.

Przewidywalność jako wymóg prawny, nie tylko techniczny

Tu analiza MPH łączy się bezpośrednio z debatą o kontroli człowieka. Szersze stanowisko MKCK w sprawie autonomicznych systemów bojowych argumentuje, że system, którego skutków „nie da się dostatecznie zrozumieć, przewidzieć i wyjaśnić", powinien być zakazany wprost — nie jako osobna, nowa zasada, ale dlatego że nieprzewidywalność praktycznie uniemożliwia osobom odpowiedzialnym za atak wywiązanie się z istniejących już zobowiązań dotyczących rozróżnienia, proporcjonalności i środków ostrożności. W tym ujęciu przewidywalność to nie miła dodatkowa cecha inżynierska, tylko warunek konieczny, by dowódca mógł w ogóle przestrzegać obowiązującego już prawa.

Kto pozostaje odpowiedzialny

MPH przypisuje odpowiedzialność ludziom i państwom, nie narzędziom, których używają. Dowódca, który wdraża system celowania wspomagany przez AI albo autonomiczny, pozostaje odpowiedzialny za zapewnienie zgodności ataku z zasadami rozróżnienia, proporcjonalności i środków ostrożności — tak samo, jakby podjął decyzję samodzielnie. To jeden z powodów, dla których debata o „znaczącej kontroli człowieka" i debata o zgodności z MPH to w gruncie rzeczy ta sama rozmowa widziana z dwóch stron: kontrola ma znaczenie, bo jest mechanizmem, dzięki któremu osoba odpowiedzialna prawnie może faktycznie zweryfikować, że te zobowiązania zostały spełnione, a nie osobnym wymogiem dołożonym na wierzchu.

Dlaczego to ujęcie ma znaczenie dla debaty politycznej

Traktowanie celowania wspomaganego przez AI jako pytania „czy stosuje się istniejące prawo", a nie „czy potrzebujemy zupełnie nowego reżimu prawnego", kształtuje to, do jakiego instrumentu w ogóle zmierzają negocjacje w ramach CCW. To częściowo powód, dla którego duża część dyskusji wielostronnej — patrz nasz tekst o dotychczasowych ustaleniach rozmów ONZ ws. LAWS — skupiła się na doprecyzowaniu i wzmocnieniu istniejących zobowiązań MPH wobec systemów autonomicznych i wspomaganych przez AI, zamiast zaczynać od czystej kartki.

O słowniku pojęciowym, na którym opiera się ta debata, piszemy w tekście czym jest „znacząca kontrola człowieka", a o kategoriach technologicznych — w artykule o broni autonomicznej a wspomaganej przez AI. Więcej o naszym zakresie redakcyjnym na stronie głównej Agent AI Army.