Azure OpenAI 服務上即將推出 DALL-E 產生影像的隱形浮水印

OpenAI 的 DALL-E 模型能夠根據文字提示產生圖像。 Azure OpenAI 服務提供對 OpenAI 的 DALL-E 模型的 REST API 訪問，使開發人員能夠以程式設計方式在其應用程式中建立映像。今天，微軟宣佈在 Azure OpenAI 服務中推出一項創新的內建功能，稱為「浮水印」。這項新的浮水印功能將為使用 DALL·E 產生的所有影像添加隱形浮水印，從而增強透明度並保護 AI 生成的影像。

最近影像生成模型的激增導致虛假資訊顯著增加和人工智慧生成的深度偽造品激增。因此，識別人工智慧生成內容的能力變得至關重要。新推出的隱形浮水印嵌入人工智慧產生的影像中，可以使用專門的工具進行檢測，但肉眼仍然無法檢測到，從而保持了影像的完整性。此外，即使人工智慧生成的圖像被調整大小或裁剪，水印的完整性仍然保持。

不可見水印將包含有關圖像來源的元數據，透過連結到圖像的清單表示。此清單由引用 Azure OpenAI 服務的憑證進行加密簽名，並將包含以下詳細資訊：

• “描述” ——此欄位表示 DALL-E 模型產生的所有圖像的“AI 生成圖像”，確認圖像的 AI 生成性質。
• “softwareAgent” – 此欄位表示由整合在 Azure OpenAI 服務中的 DALL-E 系列模型所建立的所有映像的「Azure OpenAI DALL-E」。
• 「時間」 – 此時間戳標記內容憑證的建立時間，突顯與其他 Azure AI 服務的相似之處。

這並不是微軟第一次實施浮水印。去年，微軟為Azure AI Speech的個人語音功能產生的語音輸出推出了水印，使用戶能夠辨別語音是否是透過Azure AI Speech合成的。

此外，微軟正在與其他著名的人工智慧產業參與者合作，包括 Adob​​e、Truepic 和 BBC，以確保跨平台的浮水印、加密元資料和偵測技術的一致性。

微軟的這項舉措代表了朝著負責任地部署人工智慧技術和解決人工智慧生成內容的濫用問題邁出的關鍵一步。

來源