微軟在美國大選前開發深度偽造檢測工具

隨著人們對deepfake 威脅及其在美國大選前傳播錯誤訊息的可能性的日益擔憂，微軟宣布一款旨在幫助政治人物的新工具。微軟表示，計劃向 2024 年總統選舉前的美國政治候選人提供該工具。

微軟總裁布拉德史密斯(Brad Smith)本週推出的該工具將允許各方使用加密憑證為圖像和影片添加浮水印。這將建立一個永久記錄，顯示內容是否隨著時間的推移進行了數位化變更。

其目標是為使用者和公眾提供一種方法來驗證廣告和演講等活動材料沒有透過深度造假技術進行操縱。

我們從今天開始在美國批准由參議員克洛布查爾、柯林斯、霍利和庫恩斯提出的兩黨法案「保護選舉免受欺騙性人工智慧法案」。這項重要的立法禁止使用人工智慧產生具有實質欺騙性的內容，在政治廣告中虛假描述聯邦候選人以影響聯邦選舉，但模仿、諷刺和新聞編輯室使用人工智慧產生的內容除外。

該工具的初步使用情況仍不確定，因為 Microsoft 在 2020 年推出了類似產品，採用率有限。然而，深度造假構成了嚴重威脅，正如近期活動期間傳播虛假訊息的多個經過操縱的影片所顯示的那樣。。

微軟還警告稱，威權國家可能會利用包括人工智慧在內的傳統和高科技方法來破壞 2024 年的選舉進程。作為回應，微軟將採取五項措施來加強美國​​和其他地區關鍵投票的安全性。部落格中寫道：“沒有任何人、機構或公司可以保證選舉是自由和公平的。” “但通過加緊努力並共同努力，我們可以在保護每個人自由和公平選舉的權利方面取得有意義的進展。”

另一方面，有些人注意到諷刺的是微軟也透過其100 億美元的OpenAI 股份大力投資生成式AI， a>。儘管如此，該公司認為解決深度造假問題對於保障自由和公平的選舉至關重要。其 Dall-E 已啟用真實影像產生器