The Warsaw
Systemy decyzyjne wspomagane przez sztuczną inteligencję oraz jej wsparcie dla konwencjonalnych rozwiązań używanych przez wojsko przestaje powoli zaskakiwać. Natomiast zadziwia, a raczej zmusza do refleksji możliwość jej wykorzystania bez nadzoru człowieka. Kiedy w 1997 roku w Nowym Jorku komputer Deep Blue wygrał w szachy z Arcymistrzem Garrym Kasparovem, większość ekspertów przyjęła to wydarzenie jako znak, że sztuczna inteligencja dogania ludzką.
„Wall Defender” (Obrońca Murów) to gra komputerowa, którą mogą pamiętać tylko starsi czytelnicy bądź zagorzali fani gier retro. Powstała w 1983 roku produkcja, przeznaczona na platformę Atari 2600, umożliwiała graczowi wcielenie się w dowódcę obrony fortecy. 8-bitowy procesor, 128 bajtów pamięci RAM i ograniczenia techniczne związane z wyświetlaniem grafiki pozostawiały wiele miejsca dla wyobraźni gracza [1]. Dzisiejsze komputery wyposażone w nieporównywalnie potężniejsze procesory i układy graficzne potrafią zdecydowanie więcej. Obrońca Murów z 2021 roku nie wyświetla na ekranie koślawych zlepków pikseli symulujących wroga, pozostawiając walkę z wirtualnym przeciwnikiem graczowi. Obrońca Murów z 2021 roku walczy z realnym przeciwnikiem w czasie rzeczywistym.
Operacja „Guardian of the Walls” (Obrońca Murów [2]) rozpoczęła się po tym, jak zamieszki w Jerozolimie doprowadziły do wystrzelenia ze Strefy Gazy rakiet w kierunku izraelskich miast. Pierwszy ostrzał 38 pociskami nastąpił 23 i 24 kwietnia. Natomiast pomiędzy 10 i 18 maja ponad 3440 rakiet zostało wystrzelonych w kierunku miast Sderot, Ashkelon, Ashdod i Jerozolimy. System obronny „Iron Dome” (Żelazna Kopuła) przechwycił ponad 90% rakiet, które zmierzały w kierunku zasiedlonych obszarów. Żelazna Kopuła została zaprojektowana do wykrywania i niszczenia rakiet oraz pocisków artyleryjskich 155 mm. Jest skuteczna przeciw pociskom wystrzeliwanym nawet z odległości 43 mil. Wykorzystując algorytmy sztucznej inteligencji, system analizuje, czy wykryta seria rakiet i pocisków krótkiego zasięgu zagraża ludności lub infrastrukturze krytycznej państwa [3]. Jeśli system SI zidentyfikuje takie zagrożenie, automatycznie wysyła komendę wystrzelenia pocisku przechwytującego, który neutralizuje zagrożenie na dużej wysokości lub na niezasiedlonym, bezpiecznym obszarze. System działa też od 2021 roku na terytorium USA, armia niedawno aktywowała dwie baterie obronne Iron Dome w Teksaskim Fort Bliss. Pod koniec roku mają zostać użyte podczas ćwiczeń wojskowych i uzyskać pełną operacyjność w 2023 roku [4].
Operacja „Guardian of the Walls” nie polegała wyłącznie na użyciu istniejącego systemu obronnego, Izraelska armia w trakcie konfliktu użyła wielu nowatorskich rozwiązań, przez co wielu ekspertów [5] podkreśla, że przerodził się on w pierwszą na świecie wojnę kierowaną przez sztuczną inteligencję. Izrael przy użyciu SI zaplanował ataki na Gazę. Ogromne ilości danych zebranych z otwartych źródeł (OSINT), informacji geograficznych (GEOINT) i rozpoznania osobowego (HUMINT) zostały przeanalizowane pod kątem tak zwanych ataków precyzyjnych. Opierając się na obrazach satelitarnych, informacji z czujników, radarów, dronów UAV i innych źródłach, Izraelska armia była w stanie uzyskać dokładne trójwymiarowe obrazy ze Strefy Gazy i zidentyfikować lokalizacje wyrzutni rakiet zainstalowanych przez Hamas. Sztuczna inteligencja zidentyfikowała też rodzaje broni, którymi dysponował przeciwnik i w oparciu o pozyskane dane określała na bieżąco najbezpieczniejsze trasy dla wojsk lądowych przemieszczających się w pobliżu linii frontu. „Po raz pierwszy sztuczna inteligencja była kluczowym elementem i mnożnikiem siły w walce z wrogiem. To pierwsza tego typu kampania dla IDF. Wdrożyliśmy nowe metody działania i wykorzystaliśmy osiągnięcia technologiczne, które były mnożnikiem siły dla całego IDF”, powiedział oficer wywiadu IDF (Israel Defence Forces) w komentarzu do raportu Jerusalem Post [6].
Ten sam raport podkreśla znaczenie pracy żołnierzy z Jednostki 8200, którzy są autorami algorytmów i kodu zaawansowanych programów o nazwach „Alchemist” (Alchemik), „Gospel” (Ewangelia) i „Depth of Wisdom” (Głębia Mądrości), które zostały opracowane i wykorzystane podczas walk. „Ewangelia” pomogła jednostce wywiadu wojskowego IDF ulepszyć zalecenia wywiadowcze i zidentyfikować główne cele, które następnie zostały przekazane siłom powietrznym w celu podjęcia ataków. Izraelskie wojsko twierdzi, że wykorzystanie sztucznej inteligencji pomogło skrócić długość walk oraz zwiększyć skuteczność i szybkość wykrywania celów ataku dzięki technologii super-cognition (rozpoznawanie przy użyciu SI): „Izraelowi udało się osiągnąć więcej w 50 godzinach walki niż w 50 dniach wojny w 2014 roku”.Konflikt Izraelsko-Palestyński z 2021 roku faktycznie można nazwać pierwszą wojną kierowaną przez sztuczną inteligencję, warto jednak zauważyć, że SI od dawna gości na polu walki. Drony bezzałogowe, systemy prowadzenia ognia, roje maszyn bojowych, środki rozpoznania, wymiany i agregacje danych, te i wiele innych elementów skutecznie wykorzystywane są nie tylko na poligonach, ale także podczas rzeczywistych starć. Przykładem mogą być konflikty w Syrii czy na Ukrainie.
Systemy decyzyjne wspomagane przez sztuczną inteligencję oraz jej wsparcie dla konwencjonalnych rozwiązań używanych przez wojsko przestaje powoli zaskakiwać. Zadziwia, a raczej zastrasza natomiast możliwość jej wykorzystania bez nadzoru człowieka. Kiedy w 1997 roku w Nowym Jorku komputer Deep Blue wygrał w szachy z Arcymistrzem Garrym Kasparovem, większość ekspertów przyjęło to wydarzenie jako znak, że sztuczna inteligencja dogania ludzką. Późniejsze analizy naukowe umniejszały znaczenie tego wydarzenia, starając się udowodnić, że Kasparow przegrał, ponieważ „nietypowo źle” rozgrywał partię, podważano też wartość intelektualną szachów jako gry, argumentując, że przebieg partii komputer może zaplanować przy użyciu algorytmów brute-force (sprawdzając każde możliwe rozwiązanie). W 2020 roku inne starcie pokazało, że człowiek przestaje być dla dobrze wytrenowanej sztucznej inteligencji jakimkolwiek przeciwnikiem.
W pojedynku za sterami F-16 zmierzyli się pilot sił powietrznych USA, absolwent kursu instruktorskiego F-16 w Szkole Uzbrojenia Sił Powietrznych z ponad 2000 godzinami spędzonymi za sterami F-16 oraz SI (zaimplementowana przez firmę Heron Systems) [7]. 5 osobnych scenariuszy walki, 5 porażek ludzkiego pilota.
Wszystko wskazuje na to, że sztuczna inteligencja będzie odgrywać coraz większą rolę podczas konfliktów zbrojnych. Nie ma ku temu żadnych wątpliwości. Dlatego niezwykle istotnym elementem są ograniczenia, jakimi decydenci muszą obarczać systemy SI. Ich rosnąca autonomia wymaga wdrożenia odpowiednich środków ostrożności, a przede wszystkim rozwagi od projektantów i operatorów tego typu systemów.
Wiktor Sędkowski
ukończył teleinformatykę na Politechnice Wrocławskiej, specjalizując się w dziedzinie bezpieczeństwa cybernetycznego. Jest ekspertem od zagrożeń cyfrowych. Posiadacz certyfikatu CISSP, OSCP i MCTS, pracował jako inżynier i solution architect dla wiodących firm informatycznych.
Niniejszy artykuł powstał w ramach działalności społeczno-misyjnej polskiego think tanku Warsaw Institute. Jeśli cenicie Państwo przygotowane przez naszych ekspertów treści, apelujemy o wsparcie finansowe naszej działalności realizowanej na zasadzie non-profit. Do regularnych darczyńców przysyłamy bezpłatnie anglojęzyczny kwartalnik The Warsaw Institute Review.Więcej informacji: www.warsawinstitute.org/support/Darowizny można dokonać bezpośrednio na konta bankowe:USD: PL 82 1020 4900 0000 8502 3060 4017EUR: PL 85 1020 4900 0000 8902 3063 7814GBP: PL 18 1020 4900 0000 8302 3069 6641PLN : PL 41 1020 1097 0000 7202 0268 6152SWIFT: BPKOPLPWDziękujemy!
Warsaw Institute to polski think tank zajmujący się geopolityką. Główne obszary badawcze to stosunki międzynarodowe, bezpieczeństwo energetyczne oraz obronność. Warsaw Institute wspiera Inicjatywę Trójmorza oraz stosunki transatlantyckie.
Warsaw Institute is a Polish think tank focusing on geopolitics. The main research areas are international relations, energy security and defense. The Warsaw Institute supports the Three Seas Initiative and transatlantic relations.
Artificial Intelligence on the Battlefield
The use of artificial intelligence (AI) in decision-making systems and conventional solutions of the military is no longer surprising. What is eye-opening, however, is the possibility of using it without human supervision. When Deep Blue computer won a chess game against world champion Garry Kasparov in New York City in 1997, most experts perceived this event as a sign that AI is catching up with human intelligence.
Wall-Defender is a computer game that only older readers or die-hard fans of retro games may remember. Created in 1983 for the Atari 2600 platform, the game allowed the player to take on the role of a fortress defense commander. An 8-bit processor, 128 bytes of RAM, and technical limitations related to graphics display left a lot of room for the player’s imagination [1]. Today’s computers, equipped with incomparably more powerful processors and graphics chips can do much more. A “Wall-Defender” in 2021 does not display a bunch of pixels simulating an enemy, leaving the battle with a virtual opponent to the player. The “Wall-Defender” in 2021 fights a real enemy in real-time.
Operation Guardian of the Walls [2] began after unrest in Jerusalem led to rockets being fired from Gaza into Israeli cities. The first firing of 38 missiles occurred on April 23 and 24. Between May 10 and 18, more than 3,440 rockets were fired toward the cities of Sderot, Ashkelon, Ashdod, and Jerusalem. The Iron Dome defense system intercepted more than 90% of the rockets that were heading towards the inhabited areas. It was designed to detect as well as destroy rockets and 155 mm artillery shells. The Iron Dome is effective against missiles fired from up to 43 miles away. Using AI algorithms, the system analyzes whether a detected series of short-range rockets and missiles threatens the population or critical infrastructure of the country [3]. If the AI system identifies such a threat, it automatically sends a command to launch an interceptor missile that neutralizes the threat at high altitude or in an uninhabited safe area. The system is also operational in the US since 2021 – the US Army has recently activated two Iron Dome defense batteries at Fort Bliss, TX. They are planned to be used in military exercises later this year and become fully operational in 2023 [4].
Operation Guardian of the Walls was not only about using the existing defense system – during the conflict the Israeli army used numerous innovative solutions. Consequently, many experts [5] claim that the fight turned into the world’s first AI-led war. Israel planned its attacks on Gaza with the use of AI. Huge amounts of data collected from open-source intelligence (OSINT), geospatial intelligence (GEOINT), and human intelligence (HUMINT) were analyzed in order to carry out the so-called precision attacks. On the basis of satellite images, information from sensors, radars, UAVs, and other sources, the Israeli army was able to obtain accurate 3D images of the Gaza Strip as well as identify the locations of rocket launchers installed by Hamas. Moreover, the AI identified the types of weapons at the enemy’s disposal and, on the basis of the acquired data, determined, in real-time, the safest routes for ground troops operating near the front line. “For the first time, artificial intelligence was a key component and power multiplier in fighting the enemy,” an Israel Defense Forces (IDF) Intelligence Corps senior officer said in a commentary, a part of the Jerusalem Post article [6].
Additionally, this report highlighted the importance of the work of soldiers in Unit 8200, who authored the algorithms and code for advanced programs called “Alchemist,” “Gospel,” and “Depth of Wisdom,” which were developed and used during the combat. “Gospel” helped the IDF military intelligence division to improve intelligence recommendations and identify key targets, which were then passed on to the air force to carry out attacks. The Israeli military says that AI helped to shorten the duration of battles as well as increase the effectiveness and speed of detecting targets of the attacks thanks to the super-cognition technology (recognition carried out by AI). According to it “Israel had managed to achieve more in 50 hours of fighting than in the 50 days of the war in 2014.”
Indeed, the 2021 Israel-Palestine crisis can be called the first AI-led war, but it is worth noting that AI has long been present on the battlefield. UAVs, fire-control systems (FCSs), drone swarms; means of reconnaissance, data exchange, and aggregation – these and multiple other elements are effectively used not only on the training grounds, but also during actual clashes. The conflicts in Syria or Ukraine could serve as an example.
The use of AI in decision-making systems and conventional solutions of the military is no longer surprising. What is eye-opening, or rather intimidating, is the possibility of using it without human supervision. When Deep Blue computer won a chess game against world champion Garry Kasparov in New York City in 1997, most experts perceived this event as a sign that AI is catching up with human intelligence. Subsequent scientific analyses have played down the significance of this event, trying to prove that Kasparov lost because he played the game “uncharacteristically badly.” What is more, the intellectual value of chess as a game was questioned, arguing that the computer can plan it by using brute force algorithms (checking every possible solution). Another clash in 2020 showed that humans are no longer a worthy opponent for well-trained AI.
In a simulated F-16 dogfight between an US Air Force pilot, a graduate of the F-16 instructor course at the Air Force Weapons School with over 2,000 hours of flight experience, and an AI developed by Heron Systems, the human pilot lost 5-0 in five different maneuver scenarios [7].
Everything indicates that AI will play an increasingly significant role during armed conflicts. There is no doubt about it. Therefore, the limitations that decision makers have to place on AI systems are extremely important. Their growing autonomy requires taking appropriate precautions and, above all, prudence from the designers and operators of such systems.
Wiktor Sędkowski graduated in Teleinformatics at the Wrocław University of Science and Technology, specialized in cybersecurity field. He is an expert on cyber threats. CISSP, OSCP and MCTS certificates holder. Worked as an engineer and solution architect for leading IT companies.
[2] https://www.osw.waw.pl/pl/publikacje/analizy/2021-05-12/eskalacja-konfliktu-izraelsko-arabskiego
[3] https://analyticsindiamag.com/israels-iron-dome-puts-ai-at-the-forefront-of-modern-warfare/
[6] https://www.jpost.com/arab-israeli-conflict/gaza-news/guardian-of-the-walls-the-first-ai-war-669371
[7] https://www.airforcemag.com/artificial-intelligence-easily-beats-human-fighter-pilot-in-darpa-trial/
