專家研究警示：人工智能或成未來(lái)犯罪與政變的新手段

　　專家研究警示：人工智能或成未來(lái)犯罪與政變的新手段。二十多位專家針對(duì)新興技術(shù)做出的一份報(bào)告中警示，未來(lái)五到十年內(nèi)人工智能可能會(huì)成為網(wǎng)絡(luò)犯罪、實(shí)體攻擊和政治變動(dòng)的新手段。

　　這份報(bào)告有100頁(yè)，其標(biāo)題為“人工智能被用于歧途：預(yù)測(cè)、預(yù)防和緩解”，由來(lái)自14個(gè)不同機(jī)構(gòu)組織的26位專家所撰寫，包括牛津大學(xué)人類未來(lái)研究所、劍橋大學(xué)生存危機(jī)研究中心、埃隆·馬斯克的OpenAI以及電子前哨基金會(huì)。這份報(bào)告的撰寫基于一次為期兩天的研討會(huì)，該研討會(huì)于去年2月舉辦于牛津大學(xué)。在報(bào)告中，作者們描述了人工智能在未來(lái)幾年里可能會(huì)通過(guò)哪些方式被用于歧途，它主要針對(duì)于三個(gè)安全領(lǐng)域——數(shù)字、實(shí)體和政治，人工智能在這三個(gè)領(lǐng)域的惡意使用。

　　“我們經(jīng)常能看到人工智能系統(tǒng)不僅達(dá)到了人類的表現(xiàn)，甚至還會(huì)超出許多。要考慮高強(qiáng)度的黑客入侵、監(jiān)視和實(shí)體目標(biāo)識(shí)別等應(yīng)用，這很麻煩，但是卻很必要。人工智能的能力已經(jīng)接近于人類，但是它的擴(kuò)張性卻比人類的勞動(dòng)力強(qiáng)大得多?！迸＝虼髮W(xué)人類未來(lái)研究所的研究員Miles Brundage說(shuō)道，他也是這篇報(bào)告的聯(lián)合作者之一。

　　的確，這份針對(duì)人工智能的報(bào)告也正值人工智能被敵對(duì)國(guó)家、罪犯和恐怖分子當(dāng)做負(fù)面顛覆力量去使用的時(shí)期，他們可以借助人工智能的規(guī)模和效率來(lái)進(jìn)行更加精準(zhǔn)和高效的攻擊。

　　“隨著人工智能變得越來(lái)越強(qiáng)大，應(yīng)用越來(lái)越廣泛，我們認(rèn)為人工智能系統(tǒng)會(huì)帶來(lái)新的危機(jī)?！边@份報(bào)告里寫道。

　　報(bào)告的作者們表示攻擊的成本會(huì)因?yàn)槿斯ぶ悄艿耐茝V和傳統(tǒng)人力工作被取代而降低。同樣地，新的威脅會(huì)因?yàn)槿斯ぶ悄芸梢酝瓿蛇^(guò)去那些人類難以完成的任務(wù)二出現(xiàn)。

　　“我們認(rèn)為應(yīng)用越來(lái)越廣泛的人工智能會(huì)因?yàn)樗母咝?、定位性?qiáng)、追蹤困難而引發(fā)新的攻擊，另外人工智能系統(tǒng)的漏洞也有可能會(huì)被利用?！彼麄儗懙?。

　　具體點(diǎn)講，這些作者警示的虛擬攻擊包括自動(dòng)化入侵、魚叉式網(wǎng)絡(luò)釣魚、針對(duì)冒充的目標(biāo)進(jìn)行語(yǔ)言合成和“數(shù)據(jù)毒藥”等。半無(wú)人駕駛汽車、純無(wú)人駕駛汽車以及無(wú)人機(jī)的出現(xiàn)也會(huì)引發(fā)新的危機(jī)，包括讓幾輛無(wú)人駕駛汽車發(fā)生碰撞，通過(guò)數(shù)千家無(wú)人機(jī)發(fā)動(dòng)攻擊，將商業(yè)無(wú)人機(jī)改成具備面部識(shí)別功能的“刺客”，甚至不法分子還能挾持重要的基礎(chǔ)設(shè)施進(jìn)行勒索。在政治上，人工智能可以影響群眾的觀點(diǎn)，創(chuàng)建極具針對(duì)性的宣傳活動(dòng)，或者發(fā)布虛假（但看起來(lái)很有可信度）的內(nèi)容。另外人工智能還能更好地在公眾和私人領(lǐng)域進(jìn)行監(jiān)控。

　　“我們預(yù)計(jì)這些攻擊會(huì)利用更強(qiáng)的能力，根據(jù)現(xiàn)有的數(shù)據(jù)對(duì)人類行為、心理和認(rèn)知進(jìn)行分析。這些憂慮在那些獨(dú)裁主義者的國(guó)家會(huì)更加明顯，同時(shí)它還會(huì)破壞民主，可信的公眾言論也將不復(fù)存在?！?/p>

　　“虛假信息”的時(shí)代已然到來(lái)，想要辨別真實(shí)與虛假的報(bào)道也越來(lái)越困難。俄羅斯對(duì)美國(guó)總統(tǒng)大選的干預(yù)也表明了某些行政體也會(huì)將社交網(wǎng)絡(luò)用于歧途。

　　劍橋大學(xué)生存危機(jī)研究中心的高管Seán ? h?igeartaigh也是這份報(bào)告的聯(lián)合作者之一，他表示人類對(duì)人工智能和機(jī)器學(xué)習(xí)的態(tài)度也不再像過(guò)去那樣只是單純的看好?！斑@份報(bào)告推薦的一些方法可能會(huì)有所幫助：例如，如何讓設(shè)計(jì)的軟件和硬件更不容易被入侵——以及什么樣的法律和國(guó)際監(jiān)管制度能在這方面起到作用?！彼忉尩馈榱司徑膺@些即將出現(xiàn)的危機(jī)，? h?igeartaigh和他的同時(shí)給出了五條建議：

　　人工智能和機(jī)器學(xué)習(xí)的研究者以及工程師必須承認(rèn)自己研究的使用本質(zhì)具有正反兩面。

　　決策者必須和技術(shù)研究員密切合作，以調(diào)查、預(yù)防和解決人工智能技術(shù)潛在的惡意應(yīng)用。

　　最好的方法就是講人工智能和其他極具利害性的科技領(lǐng)域區(qū)分開來(lái)，并引入針對(duì)人工智能的案例。

　　在這些領(lǐng)域優(yōu)先開發(fā)出標(biāo)準(zhǔn)的道德框架。

　　當(dāng)做出這些改變時(shí)，持股者和專家應(yīng)該參與到討論中。

　　除了這些策略，作者們還表示在投資某個(gè)技術(shù)解決方案時(shí)，必須“反復(fù)思考”虛擬安全問題；開發(fā)人員要培養(yǎng)一種“責(zé)任文化”，明白數(shù)據(jù)共享和開放帶來(lái)的力量。

　　網(wǎng)絡(luò)安全公司High-Tech Bridge的首席執(zhí)行官Ilia Kolochenko則認(rèn)為這篇報(bào)告的作者有些言過(guò)其實(shí)，在未來(lái)十年內(nèi)這個(gè)行業(yè)不會(huì)有什么變化?！笆紫?，我們要把Strong AI和我們平時(shí)經(jīng)常誤用的‘AI’區(qū)分開來(lái)，前者是完全有可能取代人類大腦的，而后者會(huì)變得更加普及?！?Kolochenko在一封郵件中寫道。

　　他表示犯罪分子之所以能通過(guò)簡(jiǎn)單的機(jī)器學(xué)習(xí)算法來(lái)提高自己的攻擊效率，只是因?yàn)榫W(wǎng)絡(luò)安全的缺陷和機(jī)構(gòu)組織的疏忽。對(duì)于Kolochenko而言，機(jī)器學(xué)習(xí)只是一種“附屬加速工具”而已。

　　“我們應(yīng)該明白，人工智能和機(jī)器學(xué)習(xí)也能幫助我們對(duì)抗虛擬犯罪。除此之外，人工智能技術(shù)的開發(fā)也需要長(zhǎng)期的投資，這是大多數(shù)黑帽黑客無(wú)法承受的。因此我并不認(rèn)為人工智能會(huì)在未來(lái)五年時(shí)間里給我們帶來(lái)什么實(shí)質(zhì)性風(fēng)險(xiǎn)?！彼a(bǔ)充道。

　　Kolochenko說(shuō)的人工智能可以幫助我們對(duì)抗攻擊的確沒錯(cuò)，但是“沒有什么實(shí)質(zhì)性風(fēng)險(xiǎn)”似乎就缺少些根據(jù)。畢竟在人工智能真正威脅到我們個(gè)人之前，沒有多少人會(huì)重視這份報(bào)告里的警示。

     2898站長(zhǎng)資源平臺(tái)網(wǎng)站排行榜：http://www.afrimangol.com/ranklist.htm