|
#FormatImgID_0# |
特斯拉創(chuàng)始人埃隆·馬斯克。視覺中國(guó) 資料圖
特斯拉創(chuàng)始人埃隆·馬斯克領(lǐng)銜的美國(guó)科技圈大佬們簽署了一份協(xié)議，承諾不會(huì)發(fā)展致命的人工智能武器系統(tǒng)。
7月18日，科技網(wǎng)站The Verge報(bào)道稱，這是全球研究者和企業(yè)家非官方聯(lián)盟的最新舉措，反對(duì)人工智能技術(shù)的不當(dāng)擴(kuò)張。
協(xié)議警告，使用人工智能的武器系統(tǒng)“無(wú)需人工干預(yù)就能選定目標(biāo)”，這造成了道德上和實(shí)操上的威脅。協(xié)議的簽署方認(rèn)為，從道德上來(lái)說(shuō)，取走一條人命的決定，“絕不應(yīng)該委托給機(jī)器”，從實(shí)操方面來(lái)看，這種武器的擴(kuò)散將“危害每個(gè)國(guó)家和個(gè)體的穩(wěn)定”。
該協(xié)議于當(dāng)天在瑞典斯德哥爾摩舉行的2018國(guó)際人工智能聯(lián)合會(huì)議(International Joint Conference on Artificial Intelligence)上發(fā)布，由生命未來(lái)研究所(Future of Life Institute，F(xiàn)LI)起草。
生命未來(lái)研究所是一個(gè)研究與推廣機(jī)構(gòu)，致力于降低人類面臨的風(fēng)險(xiǎn)，尤其是人工智能技術(shù)開發(fā)過(guò)程中的可能出現(xiàn)的風(fēng)險(xiǎn)。該研究所此前已經(jīng)發(fā)布了一些文件，號(hào)召聯(lián)合國(guó)對(duì)致命自主武器(lethal autonomous weapons，LAWS)設(shè)立新規(guī)。此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會(huì)參與開發(fā)此類技術(shù)。
除了SpaceX和特斯拉CEO埃隆·馬斯克，簽署協(xié)議的知名科技界人士還包括，創(chuàng)造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯(lián)合創(chuàng)始人Shane Legg，Mustafa Suleyman和Demis Hassabis;通訊軟件Skype創(chuàng)始人Jaan Tallinn，以及其他世界最權(quán)威和前沿的人工智能研究者。
據(jù)科技網(wǎng)站Engadget報(bào)道，少數(shù)公司的技術(shù)，以及如何向政府機(jī)構(gòu)和執(zhí)法團(tuán)體提供這些技術(shù)，面臨強(qiáng)烈爭(zhēng)議，于是這項(xiàng)協(xié)議應(yīng)運(yùn)而生。谷歌就曾向美國(guó)軍方提供人工智能科技，幫助他們?cè)跓o(wú)人機(jī)影像中標(biāo)記需要額外人工檢查的內(nèi)容。類似地，亞馬遜由于向執(zhí)法機(jī)關(guān)分享其面部識(shí)別技術(shù)而招致批評(píng)，微軟也因向美國(guó)移民和海關(guān)執(zhí)法局(Immigration and Customs Enforcement，ICE)提供相關(guān)服務(wù)而遭到抗議。
在遭受猛烈抨擊之后，谷歌推出了新準(zhǔn)則，作為公司研發(fā)人工智能技術(shù)的道德指導(dǎo)。準(zhǔn)則中稱，不會(huì)將人工智能設(shè)計(jì)或應(yīng)用于武器、監(jiān)視或“其目的違反了廣為接受的國(guó)際法和人權(quán)準(zhǔn)則”的技術(shù)。微軟也發(fā)布聲明稱，其與美國(guó)移民和海關(guān)執(zhí)法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識(shí)別技術(shù)。微軟也在號(hào)召美國(guó)國(guó)會(huì)對(duì)面部識(shí)別技術(shù)進(jìn)行監(jiān)管。
2015年，馬斯克為生命未來(lái)研究所的一個(gè)研究項(xiàng)目捐助了1000萬(wàn)美元，該項(xiàng)目專注于確保人工智能會(huì)有益于人類。2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來(lái)研究所遞交給聯(lián)合國(guó)的信件上簽名，尋求對(duì)自主武器系統(tǒng)的立法。
