Umjetna inteligencija (UI) sve više prožima naše živote, od pametnih telefona do složenih sustava upravljanja. Njezin potencijal za poboljšanje učinkovitosti i pojednostavljenje logistike neosporan je, a vojska je jedna od sfera gdje se njezina primjena sve više istražuje. Međutim, integracija UI u vojne operacije nosi sa sobom značajne rizike i etičke dileme. Upravo zato, prijedlog zakona nazvan ‘AI Guardrails Act’, koji je predstavila senatorica Elissa Slotkin, nastoji uspostaviti ključne mehanizme nadzora kako bi se osiguralo da napredak u području umjetne inteligencije služi sigurnosti, a ne ugrožava je.
Potencijal i opasnosti vojne primjene umjetne inteligencije
Američko ratno zrakoplovstvo, kao i druge vojne grane, već koristi prednosti umjetne inteligencije u raznim aspektima. Od optimizacije ruta opskrbe, preko analize velikih količina obavještajnih podataka, do podrške u donošenju taktičkih odluka, UI nudi značajne prednosti u smislu brzine, preciznosti i smanjenja ljudskog opterećenja. Međutim, priroda vojnih operacija, koje često uključuju odluke o životu i smrti, zahtijeva iznimnu opreznost. Kada se radi o sustavima naoružanja, posebno autonomnim, potencijal za pogreške, kvarove ili zlonamjernu upotrebu postaje iznimno zabrinjavajući. Zamislite scenarij u kojem autonomni sustav, bez izravnog ljudskog odobrenja, donese odluku o pokretanju napada. Posljedice takve odluke mogu biti katastrofalne, ne samo u smislu potencijalnih civilnih žrtava, već i u smislu eskalacije sukoba i narušavanja međunarodne stabilnosti.
Osim izravne uporabe u borbenim sustavima, UI se može koristiti i za nadzor. Iako nadzor može biti koristan u određenim sigurnosnim kontekstima, njegova primjena na vlastito stanovništvo, bez jasnih zakonskih okvira i nadzora, otvara vrata potencijalnoj zlouporabi i narušavanju temeljnih ljudskih prava i sloboda. Stoga je ključno pronaći ravnotežu između iskorištavanja prednosti UI i zaštite građana od njezinih potencijalnih negativnih posljedica.
Ključne odredbe zakona ‘AI Guardrails Act’
Senatorica Elissa Slotkin, predstavljajući prijedlog zakona ‘AI Guardrails Act’, naglasila je tri ključna područja na koja će se zakon fokusirati:
- Ljudski nadzor nad smrtonosnim autonomnim oružjem: Jedna od najvažnijih odredbi zakona jest osiguravanje da čovjek uvijek bude uključen u konačnu odluku o korištenju smrtonosnog autonomnog oružja. To znači da nijedan sustav naoružanja pokretan umjetnom inteligencijom ne bi smio samostalno donijeti odluku o napadu bez potvrde ljudskog operatera. Cilj je spriječiti nekontroliranu upotrebu oružja i osigurati da odgovornost ostane na ljudima.
- Zabrana korištenja UI za špijuniranje građana: Zakon bi trebao zabraniti korištenje umjetne inteligencije u svrhe masovnog nadzora američkih građana. Ovo je ključno za zaštitu privatnosti i građanskih sloboda, sprječavajući stvaranje sveobuhvatnog sustava praćenja koji bi mogao biti zloupotrijebljen.
- Ljudski nadzor nad lansiranjem nuklearnog oružja: U kontekstu najrazornijeg oružja, ljudski nadzor je apsolutno neophodan. Zakon bi trebao eksplicitno zabraniti da umjetna inteligencija samostalno pokrene lansiranje nuklearnog oružja. Odluka o korištenju nuklearnog oružja mora ostati isključivo u rukama ovlaštenih ljudskih donositelja odluka.
Ove mjere nisu usmjerene na usporavanje napretka američke industrije umjetne inteligencije, već na osiguravanje da se taj napredak odvija na siguran i odgovoran način. Senatorica Slotkin istaknula je važnost pobjede u ‘AI utrci’ protiv Kine, ali je naglasila da ta pobjeda ne smije biti ostvarena nauštrb sigurnosti i etičkih načela.
Često postavljana pitanja (FAQ)
Zašto je ljudski nadzor toliko važan u vojnoj primjeni UI?
Ljudski nadzor osigurava moralnu i pravnu odgovornost. Strojevi nemaju sav
