Autonomiczne drony obiecują „czystsze” konflikty, ale w praktyce grożą utratą kontroli nad decyzją o życiu i śmierci. Stawką jest nie tylko bezpieczeństwo cywilów, lecz także sens prawa wojennego w epoce agentów AI.
Utrata kontroli nie jest problemem jutra
Debata o sztucznej inteligencji często krąży wokół wizji przyszłej superinteligencji, która wymknie się spod nadzoru. Tymczasem ryzyko „utraty sterowności” już zostało wbudowane w systemy uzbrojenia: błąd, niejednoznaczna komenda albo źle zdefiniowany cel nie kończą się abstrakcyjną dyskusją o przyszłości, tylko realną śmiercią człowieka tu i teraz.
W wojnie konsekwencje są natychmiastowe, bo decyzje podejmowane są w warunkach presji czasu, niepełnych danych i chaosu informacyjnego. Gdy do tego dołożymy autonomię, rośnie pokusa, by przerzucić odpowiedzialność na „system”, a to jest prosta droga do sytuacji, w której nikt nie czuje się winny, choć ktoś został zabity.
„Kill box” i problem rozróżniania
W praktyce autonomiczny dron może dostać zadanie oczyszczenia wyznaczonej strefy rażenia, czyli tzw. „kill box”. Jeśli jego cel opisano jako „wszystko, co się porusza” albo „wszystko, co spełnia zestaw cech”, system wykona polecenie bez moralnego hamulca: zniszczy to, co uzna za obiekt wrogiej aktywności, niezależnie od tego, czy będzie to uzbrojony żołnierz, czy dziecko.
Sedno problemu leży w różnicy między „celem” a „celem legalnym”. Prawo konfliktów zbrojnych opiera się na zasadzie rozróżniania: trzeba odróżnić walczących od cywilów i atakować wyłącznie tych pierwszych oraz obiekty wojskowe. Tego nie da się domknąć samą komendą, nawet jeśli komenda jest formalnie zgodna z rozkazem operacyjnym. Instrukcja może być „legalna” na papierze, a jednocześnie w praktyce prowadzić do działań nie do pogodzenia z prawem.
Reguły zamiast „czarnej skrzynki”
Część badaczy ostrzega, że proszenie zaawansowanej AI o to, by sama wyjaśniła, jak ją kontrolować, jest naiwne: dostaniemy odpowiedź od systemu, którego motywacji i sposobu myślenia nie rozumiemy. W kontekście wojny sensowniejsze jest inne podejście: zamiast kolejnej „nieprzejrzystej” inteligencji, potrzebujemy mechanizmu o przewidywalnym działaniu, opartego na jasnym zestawie reguł.
Takim „rulebookiem” mogą być konwencje genewskie i szerzej – prawo humanitarne. Kluczowe jest jednak nie tylko wgranie zasad, ale też możliwość audytu: decyzje systemu muszą dawać się odtworzyć, sprawdzić i zakwestionować, a wynik oceny powinien wracać do człowieka. Nie chodzi o to, by ślepo ufać maszynie, lecz by móc ją kontrolować i rozliczać.
Mit wojny bez ofiar i łatwiejsza decyzja o konflikcie
Autonomia bywa sprzedawana jako sposób na prowadzenie działań zbrojnych bez własnych strat: skoro „nasi” nie giną, społeczeństwo ma mniej powodów do sprzeciwu. To kusząca narracja polityczna, ale w dużej mierze złudna. Można wyjąć człowieka z pętli namierzania celu, lecz nie da się wyjąć państwa z konsekwencji wojny.
Nawet jeśli część uderzeń wykonają maszyny, teren nadal trzeba zdobyć, utrzymać, zabezpieczyć. Ofiary pojawiają się w ataku i w obronie, a eskalacja konfliktu generuje cierpienie po obu stronach. W tym sensie „bezkosztowa” wojna jest niebezpiecznym mitem: obniża próg wejścia w konflikt, bo koszt polityczny wydaje się mniejszy, choć koszt ludzki nie znika.
Odpowiedzialność i bezpieczeństwo cywilów
Najbardziej niepokojący scenariusz to broń, która zabija bez rozróżniania i nie jest przed nikim odpowiedzialna. Gdy nie da się wskazać decydenta, który podjął decyzję o ataku, rozmywa się odpowiedzialność prawna i moralna. A jeśli nie ma odpowiedzialności, maleje też presja na ostrożność, weryfikację danych i ograniczanie ryzyka dla cywilów.
To uderza w fundamenty prawa wojny: zasady nie są ozdobnikiem, tylko minimalnym zabezpieczeniem przed totalną przemocą. Jeśli nie potrafimy nauczyć autonomicznego systemu respektowania tych reguł w najbardziej „przyziemnym” zastosowaniu – na polu walki – trudno wierzyć, że poradzimy sobie z kontrolą bardziej zaawansowanych agentów AI w innych obszarach. W tym sensie obrona prawa humanitarnego nie jest luksusem ani sentymentem: to warunek bezpieczeństwa, bo świat z maszynami zabijającymi bez rozróżniania nie jest bezpieczny dla nikogo.
Oryginalny tekst: Autonomous drones and the future of war in an AI-driven world | Letter