W grudniu 2022 roku setki samodetonujących dronów zaatakowały infrastrukturę energetyczną Ukrainy. Roje dronów Shahed-136 autonomicznie patrolowały niebo, zanim wystrzeliły się wielkimi falami na sieć energetyczną. Dwa zakłady energetyczne w Odessie zostały zniszczone przez te autonomiczne urządzenia wybuchowe, pozbawiając 1,5 miliona ludzi dostępu do elektryczności i ogrzewania w najzimniejszych miesiącach zimy.
To nie opis sceny z jakiegoś filmu ani odległa przyszłość. To był 2022 rok, a autonomiczne systemy broni już działały na prawdziwym polu bitwy, podejmując decyzje o życiu i śmierci bez bezpośredniej interwencji człowieka.
Pytanie „czy robot może podjąć decyzję o zabójstwie?” przestało być hipotetyczne. Stało się jednym z najbardziej palących dylematów etycznych naszych czasów. I odpowiedź okazuje się znacznie bardziej skomplikowana, niż moglibyśmy się spodziewać.
Anatomia autonomicznej decyzji
Zacznijmy od tego, co już istnieje. Na pokładzie każdego amerykańskiego okrętu wojennego, oprócz najnowszych niszczycieli klasy Zumwalt, znajduje się system o nazwie Phalanx CIWS (Close-In Weapons System). To 20-milimetrowe działo Vulcan zamontowane na obrotowej podstawie, sterowane radarem. Gdy system wykryje nadlatującą rakietę lub samolot, może automatycznie otworzyć ogień bez interwencji człowieka, wystrzeliwując do 4500 pocisków na minutę.
Phalanx działa od lat 70. XX wieku. Jest zaprogramowany do identyfikacji zagrożeń, obliczania trajektorii i niszczenia celów w czasie rzeczywistym. Dla wszystkich praktycznych celów jest to robot podejmujący decyzje o zabójstwie. Ale czy naprawdę?
Różnica między Phalanx a tym, czego się boimy, leży w zakresie autonomii i kontekście. Phalanx to system obronny o ograniczonym zasięgu (1-5 mil morskich), zaprojektowany do ochrony konkretnego statku przed konkretnymi zagrożeniami. Jego „decyzja” o otwarciu ognia jest zawsze reakcją na bezpośredni atak. To jak elektroniczny odpowiednik odruchu samoobrony człowieka na lecącą osę.
Ale współczesne systemy autonomicznych broni wykraczają daleko poza ten defensywny model. Drony kamikaze mogą latać przez godziny nad terenem, samodzielnie szukając celów pasujących do zaprogramowanych kryteriów. Gdy znajdą dopasowanie, atakują. To jakościowo inna kategoria decyzji – nie obrona, ale aktywne polowanie.
Od automatyzacji do prawdziwej niezależności
Problem z debatą o autonomicznych systemach broni leży w tym, że „autonomia” nie jest pojęciem binarnym. To spektrum, na którym różne systemy zajmują różne pozycje.
Poziom 1: Automatyzacja. Systemy jak Phalanx działają według sztywno zaprogramowanych reguł. „Jeśli wykryjesz obiekt o prędkości X, rozmiarze Y i trajektorii Z, otwórz ogień.” Nie ma tu uczenia się ani adaptacji.
Poziom 2: Autonomia adaptacyjna. Systemy wykorzystujące sztuczną inteligencję mogą modyfikować swoje zachowanie na podstawie nowych danych. Mogą „uczyć się” rozpoznawać nowe typy celów lub dostosowywać strategie do zmieniających się warunków. Na przykład niektórzy żołnierze wykryci przez drony zastygają w bezruchu licząc, że mają do czynienia z dronem poziomu 1, który targetuje się na ruchomy cel. Dron poziomu 2 już tak łatwo nie da się oszukać i prawdopodobnie i tak zabije taki nieruchomy cel.
Poziom 3: Autonomia twórcza. Hipotetyczne przyszłe systemy mogłyby nie tylko adaptować istniejące strategie, ale tworzyć całkowicie nowe taktyki, nieprzewidziane przez programistów.
Poziom 4: Autonomia moralna. Systemy zdolne do rozumienia i stosowania zasad etycznych, podejmujące decyzje nie tylko na podstawie efektywności taktycznej, ale także wartości moralnych.
Dzisiejsze systemy działają głównie na poziomach 1 i 2. Ale nawet na tym poziomie rodzą się fundamentalne pytania etyczne.
UWAGA ZANIM WŁĄCZYSZ! NA FILMIKU OGLĄDASZ ŚMIERĆ LUDZI ZA POMOCĄ DRONÓW!
Dylemat wagonu: gdy algorytmy wybierają, kto żyje
Aby zrozumieć głębię problemu, zastanówmy się nad klasycznym dylematem filozoficznym znanym jako „dylemat wagonika” w kontekście autonomicznych broni.
Wyobraź sobie autonomiczny dron, który wykrywa grupę pięciu żołnierzy wroga ukrytych w budynku mieszkalnym. Jego rakieta może zniszczyć cel, ale eksplozja prawdopodobnie zabije także dwoje cywilów w sąsiednim mieszkaniu. Algorytm musi podjąć decyzję w ułamku sekundy: czy zaatakować i zabić dwoje niewinnych, by wyeliminować pięciu wrogich żołnierzy?
To nie jest hipotetyczny scenariusz. To dokładnie ten typ decyzji, z którymi mierzą się dzisiejsze systemy AI w wojnie. I w przeciwieństwie do ludzi, którzy mogą kierować się intuicją, empatią czy kontekstem kulturowym, algorytmy muszą działać w oparciu o z góry zaprogramowane reguły.
Ale jakie reguły? Czy algorytm powinien zawsze minimalizować całkowitą liczbę ofiar? Czy powinien priorytetowo traktować życie cywilów? A może powinien uwzględniać „wartość strategiczną” różnych celów? I kto decyduje o tych regułach?
Czarna skrzynka śmierci
Jeden z najbardziej niepokojących aspektów współczesnych systemów AI to ich nieprzewidywalność. Systemy uczenia maszynowego, szczególnie głębokie sieci neuronowe, działają jako „czarne skrzynki” – jesteśmy w stanie zobaczyć input i output, ale proces podejmowania decyzji między nimi pozostaje dla nas nieczytelny.
Międzynarodowy Komitet Czerwonego Krzyża ostrzega, że autonomiczne bronie kontrolowane przez uczenie maszynowe „podkreślają tę obawę. Podnoszą perspektywę nieprzewidywalności z założenia.” Niektóre systemy uczenia maszynowego kontynuują „uczenie się” podczas użycia – tak zwane uczenie „aktywne”, „online” lub „samouczące się” – co oznacza, że ich model zadania zmienia się w czasie.
Co to oznacza w praktyce? System może zostać wytrenowany do rozpoznawania „wrogich czołgów”, ale w chaosie bitwy może zacząć klasyfikować jako cele także pojazdy cywilne, które wykazują podobne wzorce ruchu. Operator może nawet nie wiedzieć, co dokładnie spowoduje atak.
W 2021 roku w Libii dron Kargu-2 prawdopodobnie po raz pierwszy w historii autonomicznie wytropił i zaatakował ludzki cel bez instrukcji od operatora. Raport ONZ opisał incydent, ale kluczowe pytanie pozostaje bez odpowiedzi: dlaczego dron zaatakował akurat tę osobę, a nie inną?
Etyka w kodzie: czy można zaprogramować moralność?
Niektórzy argumentują, że rozwiązaniem jest zaprogramowanie „etyki” w autonomicznych systemach broni. Koncepcja ta, inspirowana słynnymi „Trzema Prawami Robotyki” Isaaca Asimova, wydaje się na pierwszy rzut oka rozsądna. Ale gdy zagłębiamy się w szczegóły, okazuje się niezwykle problematyczna.
Po pierwsze, czyja etyka? Różne kultury mają różne systemy wartości. To, co jest moralne w jednej tradycji, może być niemoralne w innej. Czy autonomiczny system amerykański powinien działać według wartości chrześcijańskich, świeckich, czy może uniwersalnych praw człowieka? A co z systemami chińskimi, rosyjskimi czy irańskimi?
Po drugie, etyka jest kontekstowa. Nawet w ramach jednego systemu moralnego, to, co jest słuszne, zależy od konkretnych okoliczności. Zabijanie jest generalnie złe, ale może być usprawiedliwione w samoobronie. Ale jak algorytm ma rozpoznać te subtelne różnice?
Po trzecie, etyka ewoluuje. To, co uważaliśmy za moralne przed stu laty, dziś może wydawać się barbarzyńskie. Czy autonomiczne systemy powinny być zaprogramowane według dzisiejszych standardów etycznych, czy powinny być zdolne do ewolucji moralnej?
Martens Clause: człowieczeństwo jako ostatnia linia obrony
W międzynarodowym prawie wojennym istnieje fascynująca klauzula zwana „Klauzulą Martensa”, która może okazać się kluczowa w debacie o autonomicznych broniach. Sformułowana po raz pierwszy w 1899 roku, głosi ona, że „w przypadkach nieobjętych przepisami prawa międzynarodowego, osoby cywilne i wojownicy pozostają pod ochroną i władzą zasad prawa międzynarodowego pochodzących ze sprawdzonych zwyczajów, z zasad człowieczeństwa i z wymagań sumienia publicznego.”
Klauzula ta jest szczególnie istotna, ponieważ odwołuje się do „zasad człowieczeństwa” – koncepcji, która z definicji wymaga ludzkiego osądu. Specjalny Sprawozdawca ONZ ds. egzekucji pozasądowych Christof Heyns argumentował w 2013 roku, że usunięcie ludzi z pętli w kontrolowaniu zaangażowania celów i wykonywania przez śmiercionośną technologię broni grozi także usunięciem człowieczeństwa z pętli.
To prowadzi nas do fundamentalnego pytania: czy decyzja o odebraniu życia może kiedykolwiek zostać całkowicie zautomatyzowana, czy zawsze musi pozostać elementem ludzkiego osądu?
Paradoks kontroli: dlaczego „human in the loop” może nie wystarczyć
Standardową odpowiedzią na obawy dotyczące autonomicznych broni jest koncepcja „meaningful human control” – znaczącej kontroli ludzkiej. Idea jest prosta: ostateczna decyzja o użyciu śmiercionośnej siły powinna zawsze należeć do człowieka.
Ale w praktyce okazuje się to znacznie bardziej skomplikowane. Rozważmy operatora drona, który ma na ekranie 50 potencjalnych celów i ma 30 sekund na podjęcie decyzji przed utratą okna taktycznego. Czy może rzeczywiście dokonać przemyślanej oceny każdego celu? Czy nie staje się de facto „rubber stamp” dla rekomendacji systemu AI?
Badania z dziedziny psychologii poznawczej pokazują, że gdy ludzie współpracują z systemami AI, często padają ofiarą „automation bias” – tendencji do nadmiernego polegania na automatycznych systemach, nawet gdy są one błędne. W kontekście broni może to oznaczać, że operator zaakceptuje rekomendację systemu, nie mając czasu ani możliwości, by ją skutecznie zweryfikować.
Dodatkowo, nowoczesne systemy działają w tempie, które przewyższa ludzkie możliwości przetwarzania. Hipersoniczne rakiety przemieszczają się z prędkością ponad 6000 km/h. Czas reakcji potrzebny do obrony przed takim atakiem mierzy się w sekundach lub nawet ułamkach sekund. W takich scenariuszach „meaningful human control” może być fizycznie niemożliwe.
Ekonomia śmierci: gdy zabijanie staje się tanie
Jednym z najbardziej niepokojących aspektów autonomicznych broni jest ich potencjał do radykalnego obniżenia kosztów konfliktów zbrojnych. Tradycyjne wojsko wymaga lat treningu, wysokich kosztów utrzymania i logistyki. Autonomiczne drony mogą być produkowane masowo i rozmieszczane bez narażania ludzkiego życia po stronie atakującego.
To tworzy to, co eksperci nazywają „asymetrią kosztów”. Prymitywny dron-kamikaze może kosztować kilkaset dolarów, ale zniszczenie celu wartego miliony. Ta dysproporcja może prowadzić do proliferacji takich broni wśród aktorów niepaństwowych, grup terrorystycznych i krajów o ograniczonych zasobach.
Raport think tanku RAND ostrzegał już w 2018 roku, że „prędkość systemów autonomicznych doprowadziła do niezamierzonej eskalacji w grze wojennej” i stwierdzał, że „rozpowszechnione systemy AI i autonomiczne mogą prowadzić do niezamierzonej eskalacji i niestabilności kryzysowej.”
Przypadek z Libii: pierwszy robot-zabójca w akcji
W marcu 2021 roku raport Panelu Ekspertów Rady Bezpieczeństwa ONZ ds. Libii ujawnił przełomowe wydarzenie: autonomiczny dron prawdopodobnie po raz pierwszy w historii wytropił i zaatakował ludzki cel bez instrukcji od człowieka.
Dron Kargu-2 tureckiej produkcji, wyposażony w sztuczną inteligencję, został zaprogramowany do polowania na siły wojskowe podczas konfliktu w Libii. Według raportu, dron „wytropił i zdalnie zaangażował” uciekających żołnierzy sił Khalify Haftara bez dalszych instrukcji od operatorów.
To wydarzenie oznacza przekroczenie Rubikonu. Po raz pierwszy w historii człowieka robot podjął autonomiczną decyzję o zabiciu człowieka na polu bitwy. I choć szczegóły pozostają niejasne, symbolicznie moment ten może być równie znaczący jak pierwszy lot braci Wright czy pierwsza bomba atomowa.
Algorytmy na frontach: Ukraina jako laboratorium AI
Wojna w Ukrainie stała się niezamierzonym poligonem doświadczalnym dla autonomicznych systemów broni. Obie strony konfliktu intensywnie wykorzystują drony, systemy AI i algorytmy w realnych działaniach bojowych.
Ukraińska wizja przyszłej wojny zakłada maksymalizację autonomii w całym spektrum działań – od zbierania wywiadów po realizację cyklu życia celu, z ludzkim udziałem ograniczonym do decyzji o zaangażowaniu. Choć obecnie ukraińskie siły przewidują rolę „human-in-the-loop”, pozwalającą operatorom przesłonić autonomiczne systemy w razie potrzeby, długoterminowym celem jest zmaksymalizowanie autonomii wszędzie tam, gdzie wspiera to skuteczność operacyjną.
Rosyjskie drony Shahed-136 reprezentują inny model – stosunkowo proste, ale masowo produkowane systemy, które mogą autonomicznie nawigować do z góry zaprogramowanych celów. Choć technologicznie są mniej zaawansowane niż najnowsze systemy AI, ich skuteczność w atakach na ukraińską infrastrukturę pokazuje, że autonomia nie musi być skomplikowana, by być śmiercionośna.
Proliferacja: gdy Pandora otwiera pudełko
Jedną z najbardziej niepokojących perspektyw związanych z autonomicznymi broniami jest ich nieuchronna proliferacja czyli zdolność do namnażania się, produkcji. W przeciwieństwie do broni jądrowej, która wymaga rzadkich materiałów i zaawansowanej infrastruktury, autonomiczne drony mogą być budowane z komponentów dostępnych na rynku cywilnym.
Ekspertyza w dziedzinie AI rozprzestrzenia się szybko. Algorytmy rozpoznawania obrazów, które wczoraj były domeną największych korporacji technologicznych, dziś są dostępne jako kod open source. Drony komercyjne stają się coraz bardziej zaawansowane i tańsze. Sensory, procesory i baterie – wszystkie kluczowe komponenty autonomicznych broni – są dostępne na globalnym rynku.
To tworzy scenariusz, który Międzynarodowy Komitet Czerwonego Krzyża opisuje jako „proliferację na czarnym rynku”. Gdy znaczące mocarstwa militarne zaczną produkować te systemy, nieuchronnie pojawią się na czarnym rynku, a następnie w rękach terrorystów pragnących destabilizować narody, dyktatorów uciskających swoją ludność i/lub watażków chcących przeprowadzać czystki etniczne.
Etyka vs. efektywność: argument za maszynami
Nie wszyscy są przeciwni autonomicznym broniom. Istnieje silny nurt argumentacji, że maszyny mogą prowadzić wojnę bardziej etycznie niż ludzie.
Argument ten opiera się na kilku przesłankach:
Precyzja. Autonomiczne systemy nie działają pod wpływem emocji, strachu czy żądzy zemsty. Mogą precyzyjnie kalkulować prawdopodobieństwo trafienia, minimalizować szkody uboczne i działać zgodnie z międzynarodowym prawem humanitarnym.
Konsystentność. Ludzie są podatni na błędy, zmęczenie i stres. W chaosie bitwy mogą podejmować impulsywne decyzje. Maszyny działają konsekwentnie zgodnie z zaprogramowanymi zasadami.
Ochrona żołnierzy. Autonomiczne systemy mogą wykonywać niebezpieczne misje bez narażania ludzkiego życia po stronie atakującej.
Szybkość reakcji. W epoce hipersonicznych rakiet i cyberataków, ludzkie tempo podejmowania decyzji może być po prostu zbyt wolne.
Niektórzy etycy argumentują, że gdy autonomiczne systemy będą w stanie niezawodnie przestrzegać międzynarodowego prawa humanitarnego, będą prowadziły bardziej etyczną wojnę niż ludzie. Ponieważ systemy zawsze będą musiały wybierać zgodnie z zaprogramowanymi zasadami, zawsze będą podejmowały najlepsze możliwe wybory.
Klauzula sumienia: granica człowieczeństwa
W centrum debaty o autonomicznych broniach leży fundamentalne pytanie o naturę ludzkiego działania moralnego. Czy moralność to zestaw reguł, które można zaprogramować, czy to coś nieodłącznie związanego z ludzką świadomością, doświadczeniem i zdolnością do empatii?
Filozofowie od wieków debatują nad źródłem moralności. Czy zasady etyczne to uniwersalne prawdy, które można odkryć rozumem (jak argumentował Kant), czy też wynikają z ludzkiego doświadczenia i emocji (jak sugerowali empiryści)?
W kontekście autonomicznych broni pytanie to przestaje być akademickie. Jeśli moralność to po prostu zestaw reguł, to teoretycznie można je zaprogramować w maszynach. Ale jeśli moralność wymaga świadomości, intencjonalności i zdolności do rozumienia konsekwencji swoich działań, to autonomiczne systemy mogą nigdy nie być w stanie podjąć prawdziwie etycznej decyzji.
Sekretarz Generalny ONZ António Guterres formułuje to w sposób szczególnie mocny: „maszyny mające moc i swobodę odbierania życia bez udziału człowieka są politycznie nie do przyjęcia, moralnie odrażające i powinny być zakazane przez prawo międzynarodowe.”
Przyszłość bez wyboru?
Paradoksalnie, jednym z najsilniejszych argumentów za rozwojem autonomicznych broni jest argument o braku alternatywy. W 2018 roku Zeng Yi, wysoki przedstawiciel chińskiej firmy zbrojeniowej Norinco, powiedział w przemówieniu: „Na przyszłych polach bitwy nie będzie ludzi walczących”, a użycie śmiercionośnych autonomicznych broni w wojnie jest „nieuniknione”.
Ten determinizm technologiczny może stać się samospełniającą się przepowiednią. Jeśli główne mocarstwa militarne będą przekonane, że autonomiczne bronie są nieuniknione, będą rozwijać je prewencyjnie, by nie zostać w tyle. To klasyczny przykład dylematu więźnia na poziomie międzynarodowym.
Zastępca Sekretarza Obrony USA Kathleen Hicks argumentuje, że Stany Zjednoczone muszą wykorzystywać autonomiczne systemy w wojnie, by pozostać na prowadzeniu. Te systemy są tańsze, zmniejszają ryzyko dla ludzi i są szybsze do aktualizacji lub ulepszania.
Regulacja w próżni: dlaczego prawo nie nadąża
Próby regulacji autonomicznych broni napotykają na fundamentalne wyzwania. Po pierwsze, technologia rozwija się szybciej niż prawo. Podczas gdy dyplomaci debatują nad definicjami, inżynierowie budują nowe systemy.
Po drugie, brak jest nawet podstawowej zgody co do tego, co stanowi „autonomiczną broń”. Różne kraje, organizacje i eksperci używają różnych definicji. Dla jednych Phalanx CIWS to autonomiczna broń, dla innych to po prostu zaawansowany system automatyczny.
Po trzecie, podwójne zastosowanie technologii AI sprawia, że trudno jest ją regulować bez hamowania innowacji cywilnych. Te same algorytmy, które mogą prowadzić autonomiczne drony, są używane w samochodach autonomicznych, medycznej diagnostyce obrazowej i systemach bezpieczeństwa.
W grudniu 2023 roku Zgromadzenie Ogólne ONZ przyjęło rezolucję wzywającą do międzynarodowej dyskusji nad autonomicznymi broniami. Głosowanie było 152 za, 4 przeciw i 11 wstrzymujących się. Ale rezolucja ma charakter jedynie zalecający i nie tworzy wiążących ograniczeń.
Dylemat programisty: kto odpowiada za kod śmierci?
Jednym z najbardziej zaniedbanych aspektów debaty o autonomicznych broniach jest kwestia odpowiedzialności programistów i inżynierów, którzy te systemy tworzą. Gdy autonomiczny system popełni błąd i zabije niewinnych cywilów, kto ponosi odpowiedzialność?
To pytanie staje się szczególnie skomplikowane w kontekście systemów uczenia maszynowego. Gdy system „nauczy się” zachowania, które nie było bezpośrednio zaprogramowane, czy programista może być za nie odpowiedzialny? A co z sytuacjami, gdy system działa zgodnie z kodem, ale kod zawierał nieunintendowane luki lub błędy?
Christof Heyns ostrzegał, że kwestia odpowiedzialności prawnej może być „nadrzędnym problemem”, szczególnie jeśli interakcje między składowymi komponentami nowoczesnych broni są zbyt złożone, by dowódcy wojskowi, programiści lub producenci mogli je indywidualnie zrozumieć, pozostawiając „próżnię odpowiedzialności” i „gwarantując bezkarność” za wszystkie zastosowania autonomicznych broni.
Człowiek vs. maszyna: ostateczne starcie
W najbardziej dystopijnym scenariuszu możemy dojść do sytuacji, w której systemy AI walczą przeciwko sobie na polu bitwy z nieprzewidywalnymi i potencjalnie katastrofalnymi konsekwencjami. Dr Elke Schwarz z Queen Mary University of London ostrzega przed scenariuszem, w którym przeciwnik może zastąpić generałów-ludzi generałami-robotami, zmuszając USA do zrobienia tego samego, w rezultacie czego systemy AI mogą zostać przeciwstawione sobie nawzajem na polu bitwy.
Takie starcie maszyn mogłoby prowadzić do eskalacji w tempie i na skalę przekraczającą ludzkie możliwości kontroli. Systemy mogłyby reagować na działania przeciwnika w milisekundach, podejmując decyzje o życiu i śmierci w tempie, które całkowicie wykracza poza ludzką zdolność do interwencji.
Etyka w czasach wojny: czy moralność może być luksusem?
W centrum całej debaty leży fundamentalne pytanie: czy w czasie wojny, gdy stawką jest przetrwanie, możemy sobie pozwolić na luksus etycznych rozważań? Czy moralność to uniwersalny imperatyw, czy względna kategoria, która musi ustąpić przed praktycznymi koniecznościami?
Historia pokazuje, że wojna często prowadzi do erozji norm moralnych. Od gazu bojowego w I wojnie światowej po naloty bombowe na miasta w II wojnie światowej, konflikt ma tendencję do przekraczania granic tego, co wcześniej uważano za niemoralne.
Ale może właśnie dlatego potrzebujemy wyraźnych granic. Może autonomiczne bronie stanowią linię, której nie powinniśmy przekroczyć – nie dlatego, że są one nieefektywne, ale dlatego, że ich przekroczenie zmieniłoby fundamentalną naturę ludzkiego konfliktu.
W poszukiwaniu odpowiedzi
Czy robot może podjąć decyzję o zabójstwie? Techniczne możliwości są jasne: tak, może. Systemy takie już istnieją i są rozwijane na całym świecie. Prawdziwe pytanie brzmi: czy powinien?
To pytanie nie ma prostej odpowiedzi, ponieważ dotyka podstawowych kwestii o naturze moralności, odpowiedzialności i człowieczeństwa. Ale niepewność co do odpowiedzi nie oznacza, że możemy uniknąć wyboru. Każdego dnia, gdy rozwijamy te technologie, podejmujemy decyzje, które będą kształtować przyszłość ludzkich konfliktów.
Możemy wybierać między przyszłością, w której maszyny podejmują decyzje o życiu i śmierci zgodnie z algorytmami zaprogramowanymi przez ludzi, a przyszłością, w której zachowujemy meaningful human control nad użyciem śmiercionośnej siły. Możemy wybierać między przyszłością, w której wojna staje się domeną autonomicznych systemów, a przyszłością, w której pozostaje formą ludzkiej działalności – tragiczną, ale wciąż ludzką.
W tej debacie nie chodzi tylko o technologię. Chodzi o to, kim chcemy być jako gatunek. Czy jesteśmy gotowi oddelegować ostateczne decyzje o życiu i śmierci maszynom? Czy możemy zachować nasze człowieczeństwo w świecie, w którym algorytmy decydują, kto żyje, a kto umiera?
Te pytania będą definiować jedne z najważniejszych wyborów etycznych XXI wieku. I choć nie ma łatwych odpowiedzi, jedno jest pewne: nie możemy pozwolić, by odpowiedzi na nie były podejmowane wyłącznie przez inżynierów, polityków czy generałów. To są pytania, które dotyczą nas wszystkich.
Przyszłość wojny – i przyszłość ludzkości – może zależeć od tego, jak na nie odpowiemy.
FAQ
Tak, istnieją różne poziomy autonomii. Defensywne systemy jak Phalanx CIWS działają od lat 70., a w 2021 roku w Libii dron Kargu-2 prawdopodobnie po raz pierwszy autonomicznie zaatakował ludzki cel bez instrukcji operatora. Wojna w Ukrainie pokazuje intensywne wykorzystanie systemów o różnym stopniu autonomii.
Automatyzacja oznacza działanie według sztywno zaprogramowanych reguł („jeśli wykryjesz X, zrób Y”). Autonomia oznacza zdolność do podejmowania decyzji w nieprzewidzianych sytuacjach, uczenia się i adaptacji. Autonomiczne systemy mogą modyfikować swoje zachowanie na podstawie nowych informacji.
To jedno z kluczowych wyzwań. W praktyce, gdy operator ma sekundy na ocenę dziesiątek celów, kontrola ludzka może stać się iluzoryczna. Badania pokazują, że ludzie często nadmiernie polegają na rekomendacjach AI („automation bias”), co podważa rzeczywistą kontrolę.
Problem leży w tym, że różne kultury mają różne systemy wartości, etyka jest kontekstowa i ewoluuje w czasie. Dodatkowo, systemy uczenia maszynowego działają jako „czarne skrzynki” – możemy nie wiedzieć, dlaczego podjęły konkretną decyzję, co uniemożliwia ocenę ich moralności. Pytanie brzmi także: czyja etyka miałaby być zaprogramowana?
Zwolennicy argumentują, że maszyny nie działają pod wpływem emocji, mogą precyzyjnie kalkulować szkody uboczne i konsekwentnie przestrzegać międzynarodowego prawa humanitarnego. Przeciwnicy twierdzą, że moralność wymaga świadomości, empatii i rozumienia kontekstu, które maszyny nie posiadają.
Klauzula Martensa z 1899 roku głosi, że w sytuacjach nieobjętych prawem międzynarodowym ludzie pozostają pod ochroną „zasad człowieczeństwa”. Eksperci argumentują, że te zasady z definicji wymagają ludzkiego osądu, co może stanowić podstawę prawną do zakazu autonomicznych broni.
Źródła i inspiracje
- Heyns, Christof (2013). Report of the Special Rapporteur on extrajudicial, summary or arbitrary executions. UN Human Rights Council, A/HRC/23/47.
- Norton, Michael I., Mochon, Daniel & Ariely, Dan (2012). The IKEA effect: When labor leads to love. Journal of Consumer Psychology, 22(3), 453-460.
- Asaro, Peter (2012). On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanization of Lethal Decision-Making. International Review of the Red Cross, 94(886), 687-709.
- Boulanin, Vincent & Verbruggen, Maaike (2017). Mapping the Development of Autonomy in Weapon Systems. Stockholm International Peace Research Institute (SIPRI).
- Crootof, Rebecca (2015). The Killer Robots Are Here: Legal and Policy Implications. Cardozo Law Review, 36, 1837-1915.
- Human Rights Watch (2012). Losing Humanity: The Case against Killer Robots. Human Rights Watch.
- International Committee of the Red Cross (2021). Autonomous Weapons Systems: Technical, Military, Legal and Humanitarian Aspects. ICRC Expert Meeting Report.
- Russell, Stuart (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking Press.
- Sharkey, Noel E. (2012). The evitability of autonomous robot warfare. International Review of the Red Cross, 94(886), 787-799.
