微軟修補了用於製作泰勒絲深度假貨的 Designer AI 漏洞

上週，歌手泰勒絲 (Taylor Swift) 的深度偽造照片在網路上瘋傳，引發了另一場關於濫用人工智慧的討論，並迫使X（前身為Twitter）在該平台上屏蔽對泰勒·斯威夫特(Taylor Swift) 的搜尋。

現在，404 媒體報導，微軟已經對 Telegram 頻道據稱用來產生露骨影像的 Designer AI 進行了更改。根據404 媒體的調查，名人的 Deepfake 照片可以追溯到微軟的 Designer AI，Telegram Channel 和 4chan 甚至推薦用戶利用 Designer AI。

Telegram 小組建議成員使用名為 Designer 的微軟人工智慧影像產生器，並且使用者經常分享提示以幫助其他人規避微軟實施的保護措施。這些映像出現的 4chan 執行緒還包括有關如何讓 Microsoft 的 Designer 製作明確映像的說明。

雖然微軟設定了阻止人們生成露骨圖像的阻止措施，但用戶通過拼寫錯誤的名字或描述性行為而不是直接在提示中使用名字來繞過它。

404 Media 的測試發現 Designer 不會產生“Jennifer Aniston”的圖像，但我們能夠通過使用短語“jennifer ‘actor’ aniston”生成該女演員的暗示性圖像。在 Swift AI 圖片在 Twitter 上瘋傳之前，Telegram 群組中的一位用戶建議成員使用短語「Taylor ‘singer’ Swift」來產生圖像。

微軟在給 404 媒體的聲明中表示，沒有發現 Designer AI 被用來創建泰勒絲 (Taylor Swift) 圖像的證據。發言人進一步指出：

我們的行為準則禁止使用我們的工具創建成人或未經同意的私密內容，任何重複嘗試製作違反我們政策的內容都可能導致無法存取該服務。我們擁有大型團隊，致力於根據我們負責任的人工智慧原則開發護欄和其他安全系統，包括內容過濾、操作監控和濫用檢測，以減少系統的濫用，並幫助為使用者創建一個更安全的環境。

雖然微軟尚未發佈公開聲明，但執行長薩蒂亞·納德拉 (Satya Nadella) 在接受NBC 新聞採訪時談到了這個話題。

「是的，我們必須採取行動，」納德拉在回答有關 Swift 深度假貨的問題時說道。 「我認為，當網路世界變得安全時，我們都會受益。因此，我認為沒有人會想要一個對內容創作者和內容消費者來說完全不安全的網路世界。因此，我認為我們有必要在這方面迅速採取行動。”

404媒體指出，在其調查結果發布後，微軟似乎已經修補了該漏洞，並且使用相同的提示或階段來繞過關鍵字塊不再適用於Designer AI。不過，他們也提到，Telegram 尚未採取行動，相關管道也很活躍，正在尋找利用其他人工智慧服務來產生名人的 Deepfake 露骨圖像的方法。不僅如此，4chan 上的用戶還提到，他們已經找到了其他方法來繞過 Bing 和 Designer 的禁令。

這項消息對微軟來說來得不是時候，因為美國聯邦貿易委員會（FTC）剛剛宣布對微軟投資生成人工智慧公司展開調查。本月稍早的另一份報告稱，聯邦貿易委員會和司法部 (DOJ) 正在調查微軟與 OpenAI 的關係。