本文編譯自the Guardian原題目為I'm a pacifist, so why don't I support the Campaign to Stop Killer Robots的文章。

　　制止殺傷性機(jī)械人活動(dòng)呼吁結(jié)合國(guó)制止研發(fā)和應(yīng)用主動(dòng)兵器：無(wú)人監(jiān)控下辨認(rèn)，追蹤和進(jìn)擊目的的主動(dòng)兵器。該活動(dòng)組織者與一些有名AI研討員配合制造了一個(gè)驚動(dòng)的視頻，并于周一宣布。 視頻向我們展示了普遍應(yīng)用主動(dòng)兵器所帶來(lái)的反烏托邦式的將來(lái)。

　　我很愉快看到我的同事正在盡力確保AI技巧運(yùn)用于無(wú)益于人類社會(huì)的范疇。 然則，我深入疑惑這類止于情勢(shì)的活動(dòng)能否有用。 雖然我以為本身是相對(duì)的戰(zhàn)爭(zhēng)主義者，但我關(guān)于簽訂這項(xiàng)禁令持保存立場(chǎng)。而我信任持保存立場(chǎng)的也絕非我一人。

　　起首，擁戴這項(xiàng)禁令的國(guó)度都沒(méi)法肯定應(yīng)當(dāng)制止主動(dòng)化照樣AI。是以，這項(xiàng)禁令又若何可以或許阻攔否決它的國(guó)度應(yīng)用主動(dòng)兵器。關(guān)于慣例兵器和核兵器的禁令是有用的，這是因?yàn)樽匀坏倪M(jìn)入壁壘：制作這些兵器所需的原資料和裝備很難取得，擔(dān)任任的國(guó)度可以經(jīng)由過(guò)程法則和制裁掌握這些兵器。比擬之下，有些人能夠會(huì)說(shuō)AI的應(yīng)用曾經(jīng)相當(dāng)普遍，并且它照樣主動(dòng)兵器的焦點(diǎn)技巧。 是以，想經(jīng)由過(guò)程法則和禁令掌握這類兵器難上加難 - 例如收集戰(zhàn)斗。

　　想一想視頻中描寫的“殺手無(wú)人機(jī)”與the Guardian上呼吁禁令的文章。即便在明天，任何互聯(lián)網(wǎng)拜訪者都可以重建無(wú)人機(jī)所需的人臉辨認(rèn)技巧：一些最早進(jìn)的“預(yù)練習(xí)收集”都邑成為地下資本。 跟著技巧的進(jìn)一步成長(zhǎng)，工作將變得加倍輕易。

　　AI的進(jìn)入壁壘很低。是以即便結(jié)合國(guó)和一些國(guó)度贊成這項(xiàng)禁令，也沒(méi)法阻攔其他否決這項(xiàng)禁令的國(guó)度推銷和安排AI技巧。 終究，最好的成果是禁令獲得成功，但禁令的擁戴者會(huì)支付沉重的價(jià)值。而最壞的情形是禁令約束了“大好人”的四肢舉動(dòng)，“壞人”卻依然肆意妄為。

　　作為一位AI研討人員，我異常惡感應(yīng)用反烏托邦來(lái)襯著這整件事，就像the Guardian報(bào)導(dǎo)的這個(gè)視頻。 這些視頻讓人覺(jué)得不安。在我看來(lái)， 應(yīng)用“雛菊女孩”式的活動(dòng)宣揚(yáng)來(lái)激起人們對(duì)AI技巧的恐怖，更像是為了撲滅年夜眾的情感，而不是激發(fā)年夜眾的思慮。

　　鑒于對(duì)禁令有用性的擔(dān)心，AI研討人員應(yīng)當(dāng)尋覓更積極的技巧處理計(jì)劃，以削減潛伏的AI技巧濫用。 例如，我們于2017年3月初在亞利桑那州立年夜學(xué)舉行了一個(gè)研究會(huì)，主題為“AI帶來(lái)的挑釁：瞻望將來(lái)，清除隱患”。 很多知名的迷信家，技巧專家和倫理學(xué)家加入了此次研究會(huì)，其目標(biāo)就是評(píng)論辯論若何避免AI技巧的濫用（包含致命主動(dòng)兵器）。

　　今朝，研究會(huì)的主題之一就是應(yīng)用AI技巧防備AI的歹意應(yīng)用。 這能夠包含所謂的“AI保衛(wèi)體系”，它可以監(jiān)測(cè)AI而且做出進(jìn)攻回應(yīng)。 即便這類體系不克不及完整遏制AI的濫用，至多可以反應(yīng)這些成績(jī)。

　　重申一下，我以為本身是戰(zhàn)爭(zhēng)主義者，一向反戰(zhàn)和支撐軍控。 假如這項(xiàng)禁令不只止于情勢(shì)，并且異常有用；不只撲滅了年夜眾的情感，還激發(fā)了年夜眾的思慮，我將舉雙手贊同。

　　免責(zé)聲明：為了充足表露，請(qǐng)?jiān)S可我聲明我的一些基本研討（關(guān)于人類認(rèn)知的AI）由美國(guó)國(guó)防部贊助機(jī)構(gòu)（如水師研討辦公室）贊助。 然則，我在文中不雅點(diǎn)是客不雅的，與贊助方有關(guān)。美國(guó)的國(guó)防贊助機(jī)構(gòu)贊助了年夜量基本研討，包含介入禁令活動(dòng)的研討人員。