微軟呼吁國會通過針對人工智能生成的deepfakes的新立法。微軟副主席兼總裁Brad Smith強(qiáng)調(diào),立法者迫切需要解決deepfake技術(shù)日益增長的威脅。

在最近的一篇博客文章中,Smith強(qiáng)調(diào)了調(diào)整法律以解決深度偽造欺詐和防止利用的重要性。史密斯認(rèn)為,應(yīng)該有一項(xiàng)法規(guī),可以用來指控深度偽造的騙局和欺詐行為。

微軟提出聯(lián)邦深度偽造欺詐法規(guī)

根據(jù)微軟的報告,可以采取幾種法律干預(yù)措施來防止濫用deepfake技術(shù)。其中一項(xiàng)建議是制定聯(lián)邦“深度偽造欺詐法規(guī)”這項(xiàng)新法律將處理合成內(nèi)容欺詐的民事和刑事層面,并可能采取以下措施:刑事指控、民事扣押和禁令。

該報告還支持合成內(nèi)容識別的要求。通過對先進(jìn)來源工具使用的監(jiān)管,公眾將因此了解他們在網(wǎng)上收到的內(nèi)容的來源。這對于數(shù)字信息的可信度和阻止假新聞的傳播非常重要。

“國會應(yīng)該要求人工智能系統(tǒng)提供商使用最先進(jìn)的來源工具來標(biāo)記合成內(nèi)容。這對于建立對信息生態(tài)系統(tǒng)的信任至關(guān)重要,并將幫助公眾更好地了解內(nèi)容是人工智能生成還是操縱的?！盉rad Smith

此外,微軟建議修改目前關(guān)于剝削兒童和未經(jīng)同意的露骨圖像的法律,以涵蓋人工智能生成的圖像。這將保證法律框架與技術(shù)發(fā)展保持同步,從而保護(hù)易受影響的人群。

美國參議院最近在這方面采取了措施,通過了一項(xiàng)針對露骨色情deepfakes的法案。這項(xiàng)新法律允許非自愿性露骨AI deepfakes的受害者起訴內(nèi)容的創(chuàng)作者。

美國聯(lián)邦通信委員會對人工智能語音機(jī)器人電話說“不”

微軟還對人工智能的濫用做出了回應(yīng),并加強(qiáng)了其產(chǎn)品的安全措施。該公司最近增強(qiáng)了Designer AI圖像創(chuàng)建者,此前該漏洞被用來制作名人的淫穢照片。史密斯表示,私營部門需要采取措施確保人工智能不被濫用,而技術(shù)公司則有責(zé)任確保用戶不受傷害。

美國聯(lián)邦通信委員會已經(jīng)采取行動,禁止在自動電話中使用人工智能語音,以防止人工智能的濫用。盡管如此,生成式人工智能在生成虛假音頻、圖像和視頻方面仍在不斷改進(jìn)。最近,美國副總統(tǒng)卡瑪拉·哈里斯的deepfake視頻加劇了這一問題,該視頻在社交媒體上傳播,說明了deepfake技術(shù)日益增長的危險。

其他非營利組織,如民主與技術(shù)中心(CDT),也參與了打擊deepfake濫用。正如CDT高級政策分析師Tim Harper所指出的那樣,2024年標(biāo)志著人工智能在選舉中的關(guān)鍵轉(zhuǎn)折點(diǎn),人們需要為此做好準(zhǔn)備。目前對deepfakes的抵制是可能是對技術(shù)操縱長期斗爭的早期形式。