Coraz więcej państw rozwija wojskowe zdolności sztucznej inteligencji (AI). Obejmują one wykorzystanie sztucznej inteligencji do tworzenia systemów autonomicznych. Wojskowe wykorzystanie sztucznej inteligencji powinno być etyczne, odpowiedzialne i zwiększać bezpieczeństwo międzynarodowe. Użycie AI w konfliktach zbrojnych musi być zgodne z obowiązującym międzynarodowym prawem humanitarnym, w tym z podstawowymi zasadami. Wojskowe wykorzystanie zdolności AI powinno być odpowiedzialne, w tym podczas operacji wojskowych w ramach odpowiedzialnego ludzkiego łańcucha dowodzenia i kontroli. Podejście stosowane przez wojsko powinno obejmować staranne rozważenie ryzyka i korzyści oraz zminimalizowanie niezamierzonych uprzedzeń i wypadków. Państwa powinny stosować odpowiednie środki w celu zapewnienia odpowiedzialnego rozwoju, rozmieszczania i wykorzystywania swoich wojskowych zdolności AI. 

Zalecane najlepsze praktyki

Według oficjalne oświadczenie z USA. Departament StanuPoniższe stwierdzenia odzwierciedlają najlepsze praktyki, które zdaniem państw popierających powinny zostać wdrożone przy opracowywaniu, wdrażaniu i wykorzystywaniu wojskowych zdolności AI, w tym tych umożliwiających systemy autonomiczne: 

  • Państwa powinny podjąć skuteczne kroki, takie jak przeglądy prawne, aby zapewnić, że ich zdolności wojskowe w zakresie sztucznej inteligencji będą wykorzystywane wyłącznie zgodnie z ich odpowiednimi zobowiązaniami wynikającymi z prawa międzynarodowego, w szczególności międzynarodowego prawa humanitarnego.
  • Państwa powinny zachować ludzką kontrolę i zaangażowanie we wszystkie działania krytyczne dla informowania i wykonywania suwerennych decyzji dotyczących użycia broni jądrowej.
  • Państwa powinny dopilnować, aby wyżsi urzędnicy nadzorowali rozwój i wdrażanie wszystkich wojskowych zdolności AI o wysokich konsekwencjach, w tym między innymi systemów uzbrojenia.
  • Państwa powinny przyjąć, opublikować i wdrożyć zasady odpowiedzialnego projektowania, rozwoju, wdrażania i wykorzystywania zdolności AI przez swoje organizacje wojskowe.
  • Państwa powinny zapewnić, że odpowiedni personel zachowuje należytą ostrożność, w tym odpowiedni poziom ludzkiego osądu, przy opracowywaniu, wdrażaniu i wykorzystywaniu wojskowych zdolności AI, w tym systemów uzbrojenia zawierających takie zdolności.
  • Państwa powinny zapewnić podjęcie celowych kroków w celu zminimalizowania niezamierzonej stronniczości w wojskowych zdolnościach AI.
  • Państwa powinny dopilnować, aby wojskowe zdolności AI były rozwijane przy użyciu możliwych do skontrolowania metodologii, źródeł danych, procedur projektowych i dokumentacji.
  • Państwa powinny dopilnować, aby personel, który wykorzystuje lub zatwierdza wykorzystanie wojskowych zdolności AI, został przeszkolony, tak aby w wystarczającym stopniu rozumiał możliwości i ograniczenia tych zdolności oraz mógł dokonywać ocen kontekstowych dotyczących ich wykorzystania.
  • Państwa powinny dopilnować, aby wojskowe zdolności AI miały wyraźne, dobrze zdefiniowane zastosowania oraz były zaprojektowane i skonstruowane tak, aby spełniały te zamierzone funkcje.
  • Państwa powinny zapewnić, że bezpieczeństwo, ochrona i skuteczność wojskowych zdolności AI podlegają odpowiednim i rygorystycznym testom i zapewnieniom w ramach ich ściśle określonych zastosowań i przez cały cykl ich życia.  Samouczące się lub stale aktualizowane zdolności wojskowej sztucznej inteligencji powinny również podlegać procesowi monitorowania, aby zapewnić, że krytyczne funkcje bezpieczeństwa nie uległy pogorszeniu.
  • Państwa powinny projektować i konstruować wojskowe zdolności AI tak, aby posiadały one zdolność do wykrywania i unikania niezamierzonych konsekwencji oraz zdolność do wyłączania lub dezaktywacji wdrożonych systemów, które wykazują niezamierzone zachowanie.  Państwa powinny również wdrożyć inne odpowiednie zabezpieczenia w celu ograniczenia ryzyka poważnych awarii.  Zabezpieczenia te mogą pochodzić z tych zaprojektowanych dla wszystkich systemów wojskowych, a także tych dla zdolności AI nieprzeznaczonych do użytku wojskowego.
  • Państwa powinny kontynuować dyskusje na temat tego, w jaki sposób wojskowe zdolności AI są rozwijane, rozmieszczane i wykorzystywane w sposób odpowiedzialny, aby promować skuteczne wdrażanie tych praktyk oraz ustanowienie innych praktyk, które państwa zatwierdzające uznają za stosowne. W dyskusjach tych należy rozważyć, w jaki sposób wdrożyć te praktyki w kontekście eksportu wojskowych zdolności AI.

Wymagania dla państw zatwierdzających

  • Wdrażaj te praktyki podczas opracowywania, wdrażania lub wykorzystywania wojskowych zdolności sztucznej inteligencji, w tym tych umożliwiających działanie systemów autonomicznych;
  • Publicznie opisują swoje zaangażowanie w te praktyki;
  • Wspieranie innych odpowiednich wysiłków w celu zapewnienia, że takie zdolności są wykorzystywane w sposób odpowiedzialny i zgodny z prawem; oraz
  • Dalsze angażowanie reszty społeczności międzynarodowej w promowanie tych praktyk, w tym na innych forach dotyczących powiązanych tematów i bez uszczerbku dla trwających dyskusji na ten temat na innych forach.