設(shè)緊箍咒

　　軍事機(jī)器人程序變異或會(huì)毀滅世界

　　毫無(wú)疑問(wèn)，未來(lái)戰(zhàn)爭(zhēng)中，自動(dòng)機(jī)器人士兵將成為作戰(zhàn)的絕對(duì)主力。但是美國(guó)海軍研究室在關(guān)于機(jī)器人士兵的研究報(bào)告《自動(dòng)機(jī)器人的危險(xiǎn)、道德以及設(shè)計(jì)》中，對(duì)軍方使用機(jī)器人提出警告，建議為軍事機(jī)器人提前設(shè)定嚴(yán)格的設(shè)計(jì)和使用“緊箍咒”，否則整個(gè)世界都有可能毀于他們的鋼鐵之手。

　　報(bào)告指出，現(xiàn)今美國(guó)的軍事機(jī)器人設(shè)計(jì)師往往急于求成，常常會(huì)將還不成熟的機(jī)器人技術(shù)急匆匆推入市場(chǎng)，促使人工智能的進(jìn)步在不受控制的領(lǐng)域內(nèi)不斷加速發(fā)展。更糟糕的是，目前還沒有一套控制自動(dòng)系統(tǒng)出錯(cuò)的有效措施。如果設(shè)計(jì)出現(xiàn)錯(cuò)誤，足以讓全人類付出生命的代價(jià)。

　　2008年，曾有3臺(tái)帶有武器的“劍”式美軍地面作戰(zhàn)機(jī)器人被部署到了伊拉克，但是這種遙控機(jī)器人小隊(duì)還未開一槍就很快被從戰(zhàn)場(chǎng)撤回——因?yàn)樗鼈冏隽丝膳碌氖虑椋簩尶趯?duì)向它們的人類指揮官