自主武器系統最早出現在科幻電影中，但近年來，它們已經進入工程實驗室和戰場。這些武器能夠在很少或沒有人類監督的情況下執行先進的軍事功能。

除了在戰場上提供顯著的戰略和戰術優勢外，自主武器系統在道德上也比使用人類戰斗人員更優越。專家們聲稱，在高壓力的戰斗情況下用機器人代替人類可能有道德上的好處。他們認為，在極端壓力下，負責有意識的自我控制的神經回路可能發生故障，導致性侵犯和其他犯罪，否則士兵就不太可能犯下這些罪行。

對于一個特定的任務，需要更少的作戰人員，并且由于機器人作為一個力量倍增器的能力，每個人都更加有效。自主武器系統具有罕見的能力，比人類行動更快，即使在通信聯系中斷的情況下，它們也能進行攻擊。此外，它們使戰斗能夠到達以前無法進入的地區，并通過將人類戰士從危險的任務（如處理爆炸物）中移除來降低傷亡。

未來的自主機器人在戰斗中可能表現得更加 "人性化"，因為它們不需要被編程為自我保護的本能，有可能消除 "先開槍，后問話 "的心態。自主武器系統將能夠處理比人類多得多的傳入感官信息，而不會為適應先入為主的觀念而丟棄或扭曲這些信息。這些系統也將能夠在不受恐懼或歇斯底里等情緒影響的情況下做出決定。

有六個領域，自主性的進步將大大有利于目前的系統：感知、計劃、學習、人與機器人的互動（HRI）、自然語言和多代理協調。

優勢

據專家介紹，自主武器系統的潛在優勢通常分為三類：提高軍事效能的作戰優勢、與資源分配效率相關的經濟優勢，以及因可能使用此類系統以減少戰斗情況下的傷亡而產生的人類優勢。

作戰優勢

自主武器系統有幾個操作優勢，包括速度（它們可以比人類操作員更快地做出決定）和敏捷性（它們不需要不斷地與人類操作員溝通來發揮作用；因此，它們可以更快適應）。由于人類操作員的認知和身體限制可能也比這些操作員更準確和更有彈性。

自主武器系統可能比傳統武器系統更適合在偏遠地區作戰，因為它們不需要與人類操作員溝通。此外，自主武器系統可能使軍隊更容易滲透到敵方領土。這種遠距離作戰可能會造成較少的傷亡，而且供應和通信網絡可能不那么必要。

經濟

自主武器系統可能具有經濟上的優勢，它以各種方式降低軍事行動的成本，盡管最初的研究和開發成本很高。例如，有了這樣的系統，完成同樣的任務可能需要更少的軍人，使軍隊能夠重新分配人員和其他資源，從 "枯燥、骯臟或危險 "的工作中轉移到更復雜的任務中。此外，自主武器系統可以節省人員費用。2013年，一個小型武裝機器人的成本為23萬美元，而美國國防部在阿富汗裝備和維護一名士兵的年度成本為85萬美元。

人類

自主武器系統可能有利于人類，因為使用它們可能導致更少的傷亡。例如，軍隊可以使用這種系統來取代手動操作的戰斗機，消除飛行員的風險。一些評論家用戰爭中的錯誤和暴行的歷史事例來支持他們的主張，即自主武器系統可以減少平民傷亡。這種系統不會因為報復、恐懼或憤怒而進行攻擊，也不會因為疲勞或壓力而犯錯。

此外，他們還提請注意，缺乏科學證據支持機器人有朝一日可能擁有 "準確識別目標、了解情況或決定按比例使用武力所需的功能 "的說法。因此，他們有可能造成大量的附帶損害。賦予人工智能對目標的控制權，幾乎肯定會導致不可接受的附帶損害和平民死亡。

使用自主武器系統時的問責問題是另一個重要的擔憂。國際人道主義法律的根本前提是要對平民的死亡負責。因此，如果在戰斗中使用武器或其他戰爭工具會導致無法確定誰應該為其造成的死亡負責，那么就不應該在戰斗中使用。

要判斷一個有缺陷的決定是由編程錯誤還是由配備了人工智能（所謂的智能）的機器的自主審議造成的，是具有挑戰性的，因為配備了人工智能的機器是獨立作出決定的。當一個人決定對一個目標使用武力時，有一個明確的責任鏈，從 "扣動扳機 "的人開始，到發出命令的指揮官結束。在自主武器系統的情況下，沒有這樣的明確性。

盡管自主系統可以實現極大的靈活性，以應對具體的戰爭情況，但也會出現一些不可預見的情況，例如。

故障和bug隨著系統變得越來越復雜，機械部件和代碼行的數量也越來越多，增加了可能發生故障或編碼不當的元素的數量。

系統故障系統故障的發生不是因為任何特定部件的故障，而是因為系統元素之間意外的相互作用。隨著系統復雜性的增加，驗證系統內部工作的所有可能組合變得越來越困難。

系統對人類操作者來說是不透明的。雖然在許多情況下，自動化的好處之一是減少人為錯誤的可能性，但更大的復雜性的負面效應是，即使是受過訓練的用戶，系統的功能也可能越來越不透明。

與環境的非預期的互動。隨著系統和/或其操作環境的復雜性增加，潛在的交互作用的數量急劇增加。這可能會使測試自主系統在每一種可能的環境條件下的操作成為不可能。

對抗性黑客攻擊。在敵對環境中，例如在戰爭中，敵人可能會試圖利用系統的漏洞，無論是通過黑客攻擊、欺騙（發送虛假數據），還是行為黑客攻擊（利用可預測的行為來 "欺騙 "系統以執行某種方式）。雖然任何計算機系統在原則上都容易受到黑客攻擊，但更大的復雜性會使其更難識別和糾正任何漏洞。

缺點

批評者認為，由于一些道德和法律原因，這些武器應該受到限制，如果不是完全被禁止。他們認為，雖然人工智能有可能幫助人類，但如果軍事人工智能之間的軍備競賽發展起來，其聲譽可能會受損。公眾的反感可能會限制人工智能的未來優勢。