當?shù)貢r間 9 月 13 日，馬斯克在自己的個人推特賬號上轉(zhuǎn)推了一篇名為《Hackers Have Already Started to Weaponize Artificial Intelligence》（編譯：黑客們已經(jīng)開始武器化人工智能）的文章。以下為博客節(jié)選內(nèi)容：
來自安全公司 ZeroFOX 的兩位數(shù)據(jù)科學家進行了一次實驗，他們希望看看人類和人工智能相比，究竟誰更容易讓推特用戶點擊惡意鏈接。于是，研究人員讓人工智能研究社交網(wǎng)絡用戶的行為，然后設計并實施自己的網(wǎng)絡釣魚誘餌。從測試結(jié)果，人工智能程序比人類要領先很多。
名為 SNAP_R 的 AI 以平均每分鐘 6.75 條微博的速度向 800 多名用戶發(fā)送了模擬的釣魚詐騙微博。最后有 275 位用戶上當，以相比之下，參加實驗的福布斯員工（Thomas Fox-Brewster）平均每分鐘發(fā)出 1.075 個推文，做了 129 次試驗，最終只吸引了 49 位用戶。
幸運的是，這只是一個實驗，但實驗已經(jīng)表明，黑客已經(jīng)能夠使用 AI 來進行惡意攻擊。事實上，他們可能已經(jīng)在使用它，只是尚不為人所知。7 月份，在 2017 年美國黑帽安全技術大會（Black Hat Conference）上，數(shù)百名領先的網(wǎng)絡安全專家聚集在拉斯維加斯，討論 AI 問題和新興技術可能會帶來哪些隱患。在調(diào)查中，有個問題關于在未來一年內(nèi)黑客是否會使用AI進行攻擊，62％ 的受訪者的答案是肯定的。
Cylance 主管安全數(shù)據(jù)科學家 Brian Wallace 在接受 Gizmodo 采訪時說：“黑客一直在使用人工智能作為武器。這是非常有意思的，因為黑客的規(guī)模問題，他們試圖盡可能地攻擊更多的目標，同時盡量減少對自己的風險。人工智能和機器學習可以實現(xiàn)這一目的，所以成為他們最終使用的完美工具。“他說，這些工具可以決定要攻擊的人，攻擊者，何時攻擊等等。
移動安全初創(chuàng)公司 Zighra 的創(chuàng)始人兼首席執(zhí)行官 Deepak Dutt 表示，在不久的將來，復雜的人工智能將被用于網(wǎng)絡攻擊的可能性很高，而且它可能已經(jīng)被俄羅斯，中國等東歐國家使用。但是，關于 AI 以何種方式被利用，Dutt 暫時也不清楚。
“人工智能可用于挖掘大量公共領域和社交網(wǎng)絡數(shù)據(jù)，以提取出生日期，性別，位置，電話號碼，電子郵件地址等個人身份信息，可用于黑客入侵一個人的賬戶，“Dutt 告訴 Gizmodo。“它還可以用于自動監(jiān)控電子郵件和短信，并為社會工程攻擊創(chuàng)建個性化的網(wǎng)絡釣魚郵件。AI 可以更容易地突變惡意軟件和 ransomware，并且更智能地搜索并挖掘和利用系統(tǒng)中的漏洞。
Dutt 懷疑 AI 已經(jīng)被用于網(wǎng)絡攻擊，而且這些罪犯已經(jīng)在使用某種機器學習功能，例如通過自動創(chuàng)建個性化的網(wǎng)絡釣魚電子郵件。
“但是，新的人工智能技術在新的機器學習技術方面，比如深度學習，可以被用來達到我剛剛提到的更高水平的準確性和效率。”他說。深度學習也稱為層次學習，是利用大型神經(jīng)網(wǎng)絡。它已經(jīng)應用于計算機視覺，語音識別，社交網(wǎng)絡過濾等諸多復雜任務，并且往往能夠產(chǎn)生優(yōu)于人類專家的成果。
“此外，大量社交網(wǎng)絡和公共數(shù)據(jù)集（Big Data）的可用性也有所幫助。先進的機器學習和深度學習的工具現(xiàn)在可以在開源平臺上輕松獲得 - 這與相對便宜的計算基礎設施相結(jié)合，有效地使得網(wǎng)絡攻擊更加復雜。
根據(jù)古德曼的說法，這些日子里，絕大多數(shù)的網(wǎng)絡攻擊都是自動化的。人類黑客走一個單一目標是非常少的，現(xiàn)在更常見的方法是使用 AI 和機器學習的工具自動化攻擊 - 從腳本分布式拒絕服務（DDoS）攻擊到 ransomware，犯罪聊天機器人等。這樣的機器智能化的前景是特別令人震驚的。AI 可以以超過任何個人黑客的速度和復雜程度生成復雜且高度針對性的腳本。
除了已經(jīng)描述的犯罪活動之外，AI 還可用于攻擊弱勢群體、快速進行黑客攻擊、開發(fā)智能惡意軟件等等。
Recorded Future 首席技術官 StaffanTruvé 表示，隨著人工智能成熟并成為更多的商品，“壞人”將會開始使用它來提高攻擊性能，同時降低成本。不同于許多同事，Truvé表示，AI目前并沒有真正被黑客使用，聲稱更簡單的算法（例如自修改代碼）和自動化方案（例如啟用網(wǎng)絡釣魚方案）正在運行正常。
Truvé 告訴 Gizmodo，“我不認為 AI 已經(jīng)成為壞人必備工具的一部分。” “我認為我們在攻擊中還沒有看到更多的”AI“的原因是，傳統(tǒng)的攻擊方法仍然有效 - 如果你從一個好的老式的強力方法中就可以達到你的目的，那么為什么要花時間和金錢來切換到某種新技術上呢？”
此外，9 月初，馬斯克在推特發(fā)表，“戰(zhàn)爭可能不是由國家的領導人發(fā)動，而是人工智能——只要它認為先發(fā)制人的打擊是取得勝利最為有效的方式。”上個月，馬斯克聯(lián)合上百名人工智能行業(yè)的高管向聯(lián)合國建議：禁止發(fā)展致命性自主武器，阻止高科技軍備競賽。
包括馬斯克、谷歌DeepMind創(chuàng)始人Mustafa Suleyman、丹麥Universal Robotics創(chuàng)始人等共計116人在公開信上簽名，敦促聯(lián)合國闡明致命性自主武器，即“殺手機器人”帶來的挑戰(zhàn)，并且在全球范圍內(nèi)禁止使用這類武器。
