微軟推出工具來識別和修復人工智慧結果中的幻覺內容
Azure AI 內容安全是 Microsoft 的創新 AI 解決方案，旨在識別各種應用程式和服務中有害的使用者生成和 AI 生成的內容。該服務包含文字和圖像 API，使開發人員能夠有效標記不需要的材料。
接地檢測 API 是 Azure AI 內容安全性的一部分，可確定大型語言模型的回應是否基於使用者選擇的來源資料。鑑於目前的大型語言模型有時會產生不準確或不事實的資訊（通常稱為幻覺），該 API 可協助開發人員識別人工智慧輸出中的此類不準確之處。
最近，微軟宣布推出修正功能預覽版，使開發人員能夠即時偵測並修正幻覺內容，確保最終用戶收到一致、準確的人工智慧生成內容。
以下是校正功能的運作方式：
- 應用程式開發者啟動校正能力。
- 一旦偵測到不合理的句子，就會向產生人工智慧模型發送新的請求進行更正。
- 大語言模型根據基礎文件評估無根據的句子。
- 缺乏與基礎文件相關內容的句子可能會被完全過濾掉。
- 如果在基礎文件中找到內容，基礎模型將重寫未基礎的句子以與文件保持一致。
除了修正功能之外，微軟還推出了混合Azure AI內容安全（AACS）的公開預覽版。該計劃允許開發人員在雲端和設備上實施內容安全措施。 AACS 嵌入式 SDK 可以直接在裝置上進行即時內容安全檢查，即使沒有網路連線也是如此。
此外，微軟還推出了受保護材料檢測程式碼的預覽版，該預覽版可與生成程式碼的人工智慧應用程式一起使用，以識別法學碩士是否產生了任何受保護的程式碼。該功能最初只能透過 Azure OpenAI 服務存取，現在可與其他產生程式碼的生成式 AI 模型整合。
這些更新顯著增強了人工智慧內容審核技術的可靠性和可訪問性，從而在各種平台和環境中培育更安全、更值得信賴的人工智慧應用程式。
發佈留言