《終結者》被譽為20世紀最值得珍藏的電影之一，其中的主角“終結者”是一個有著人類智能，可以自行做出決定，甚至可以對人類進行屠殺的機器人。盡管這一系列的電影反應了人類對于逐漸強大的人工智能和機器人所帶來的未知的深入骨髓的恐懼，但由于當時的技術發展還遠未達到電影中所呈現的程度，因此，人們只是將其作為一部十分成功的科幻電影看待。這種能自主搜索、鎖定并攻擊目標的機器人并沒有引起過多的恐慌和關注。
十分有代表性的要數由韓國三星集團所研發的SGR—1哨兵機器人
隨著科學技術的逐漸成熟，如同終結者般的自主致命性機器人正在從熒屏中走出，成為現實中的真實存在物。目前以美、英、以色列、俄羅斯為代表的多個國家都在研制自主性致命武器。所謂自主致命性武器是指可以根據自身所部署的環境中不斷變化的情況，隨時學習或調整運轉的武器。再說得簡單些就是這類武器無需人類的操作就可自行鎖定目標，并可以使用武力攻擊包括人類在內的一切目標。
盡管像《終結者》電影中所描繪的那種殺手機器人還并不存在，可如果不對自主致命性武器的研究加以限制，“終結者”在未來的二三十年內出現是非常有可能的。通過研發，現有的自主致命性武器已經實現了自動搜索、跟蹤和攻擊等多項功能。其中十分有代表性的要數由韓國三星集團所研發的SGR—1哨兵機器人，這個機器人能擺脫人類的控制，自主偵查范圍內的威脅，并在偵測到闖入者時發出警報，還可在人類授權的情況下對目標展開進攻。
全球還沒有產生一款真正意義上的自主致命性武器，還需要由人在后方進行一定程度的操作，其原因就在于機器還遠未達到人類的智能水平。戰場上變化莫測，根據現有的人工智能水平，機器人在戰場上很有可能產生對環境的錯誤判斷，產生錯誤的行為，直接對戰局產生不利影響。但由遠程遙控向由計算機軟件、傳感器、控制裝置轉變，從而能夠賦予機器人全自動識別、跟蹤、判斷并攻擊的能力將成為未來武器發展的趨勢。由于自主致命性武器替代人類士兵出現在戰場上，將為戰爭國減輕在財力、國內政治、道德譴責等多方面的壓力，使得越來越多的國家加入到研發的隊伍當中，同時伴隨著人工智能相關技術的不斷成熟，這種武器的發展趨勢正變得越發明顯。
請注意科幻作家阿西莫夫提出了著名的機器人三原則
自主致命性武器發展的日益成熟，令不少人開始擔心，一旦這種武器真正地被研發出來，會不會對人類造成滅頂之災。
1940年由科幻作家阿西莫夫提出了著名的機器人三原則，即第一條，機器人不得傷害人類，或看到人類受到傷害而袖手旁觀;第二條，機器人必須服從人類的命令，除非這條命令與第一條相矛盾;第三條，機器人必須保護自己，除非這種保護與以上兩條相矛盾。這三條原則被看做是保護人類免受機器人傷害的基本保障。然而，在機器人的科幻電影中，人類和機器人打起來的比比皆是。在現實中機器人三原則更是被拋到了九霄云外，自主致命性武器無論多么先進，其本質依然是殺人的武器，這顯然是違背機器人三原則的。一個完全不受人類控制的機器人到了戰場上所造成的破壞可能遠大于人類士兵。
根據牛津大學人工智能哲學家尼可·博斯特倫于2013年對數百位人工智能專家所做的一項關于“你認為人類級別的人工智能什么時候會出現”的調查，結果顯示，大多數專家認為如果沒有人為的干預2040年左右的可能性最大，最晚也不會超過2075年。盡管今日距離專家們語言的時間并不遙遠，但就目前人工智能發展的程度還遠達不到人類的水平。這也就意味著，機器人仍要依靠提前設定好程序來行動，一旦戰場上的情況有變，而機器人又不能根據實際情況有所變通就很有可能造成難以預料的后果。已經喪失戰斗力的傷員、準備投降的士兵，甚至是平民都有可能成為這些自主致命性武器屠殺的對象。
一個人類士兵，其首先是一個人，然后才是一個兵。只要是人，其就具有人類的情感，有道德和法律的約束，雖然在戰場上這些約束存在失效的可能，但仍是阻止士兵肆意屠殺的重要保障。然而，自主致命性武器卻真正能做到無情無義、無法無天，并且人們也不能對機器的行為進行責任追究，這就失去了對其行為約束的最后一道防線。對于一個毫無感情、道德和法律意識的機器，最重要的是其已經失去了人類的控制，卻擁有著生殺大權，天曉得它們會做出什么。聯合國人權理事會特別調查員克里斯多夫·海因斯就警告稱“如果這些武器得到推廣，就等于是打開了潘多拉魔盒，將會給人類帶來難以想象的災難。”
機器人很可能在短短的幾十年內發展到人類的智能水平
達摩克利斯之劍的典故源自于古希臘傳說，迪奧尼修斯邀請他的大臣達摩克里斯赴宴，并在他的座位上方用一根馬鬃懸掛了一把利劍，誰也無法預測這把利劍會何時會落下，后常用來比喻隨時存在的危險。
賦予機器人以自主控制能力和殺人的權限就是一把懸在整個人類頭上的達摩克利斯之劍，只要那根馬鬃因為什么原因斷掉，這把鋒利的寶劍就會直接將人類的頭顱砍下。即使人類沒有因此而滅絕，也將陷入與殺人機器人的爭斗當中。
這一擔心絕非杞人憂天，美國在試驗自主致命性武器時，就曾誤擊過印度貨船，導致一人喪命。這還是在人類控制之下就造成了如此慘劇，一旦這些擁有強大火力的殺人機器失控，其將造成多大的危害是難以估量的。
即使為機器人設計好十分縝密的程序令其不會輕易對人類開火，也難以保障機器人的行為在可控范圍之內。且不說再縝密的程序都存在漏洞，況且還是在變化莫測的戰場之上，誰也無法預測機器人會做出什么。即使程序真的設計得毫無漏洞，然而程序是可以改變的，一些極端組織份子可以利用黑客技術對機器人的現有程序重新編輯，將機器人改變成為恐怖襲擊的武器，屆時造成大量的傷亡將不可避免。
以上的設想成為現實，會對人類造成重大損失，但還不會威脅到整個人類的生存。最為可怕的是，隨著人工智能的發展，機器人很可能在短短的幾十年內發展到人類的智能水平，并在很短的時間內，也許僅需幾天的時間就可以將人類遠遠地甩在身后。在這一過程中，機器人會演化出何種意識誰也無法說清。一旦《黑客帝國》、《終結者》中的想象成為現實，這些武器的高智能與致命性將令人類陷入毫無招架之力的困境當中。
互聯網機器人要成為人類發展的助手而不是人類的終結者
克勞塞維茨在其著作《戰爭論》中對戰爭有一段對后世影響深刻的論述(雖然現在是互聯網時代，戰爭形態獲將演變為網絡戰爭)：戰爭并非一種盲目的沖動，而是受到政治目的的支配，那個目的的價值也就決定所應作犧牲的程度。一旦所需代價太大，則政治目的在價值上也就不再能與之相稱，于是這個目的也就必須放棄。
如果說是否發動一場戰爭是一個理性地權衡利弊的過程的話，那么也就意味著戰爭的發動應當是有底線的，即戰爭付出的代價不能大于所獲得的回報，否則就只得放棄。
與戰爭相同的，人類對武器的發明也應當有一條不能觸碰的底線，那就是人類發明的武器不能威脅到整個人類的生存。然而，人類卻在不斷地觸碰這個底線，核子武器的出現使這一突破底線的行為達到了一個高峰，廣島和長崎讓人們見識了原子彈那足以毀滅整個人類的驚人破壞力，盡管人類為此而驚愕、恐懼和反思，但在利益的驅使下，人類并沒有放棄對更加致命武器的研究。
“其他國家武器水平在逐漸提高，我們就要研制更加前沿的武器，以降低來自其他國家的威脅”。站在本國的角度，這個一個非常正確的邏輯，可如果上升到全人類的高度，這樣的邏輯就顯得十分危險了，當武器過于強大而超出人類駕馭的范圍時，人類會被逼向滅絕的邊緣。自主致命性武器的出現便是一個關鍵性的信號，人類不能再對此視而不見了。
用機器人來代替人類士兵上戰場由于具有多方面的優勢，而成為未來戰爭不可阻擋的發展趨勢。但沖突雙方都應將武器系統的最終開火權牢牢地掌握在人類手中，好在自主致命武器的發展已經受到了越來越多人的重視。這類武器的研制、開發未來將逐漸受到嚴格的限制。只有這樣機器人才能成為人類發展的助手而不是人類的終結者。
