OpenAI 推出人工智能檢測工具來對抗 ChatGPT 生成的文本

OpenAI 的自動 AI 聊天機器人 ChatGPT 席捲了互聯網，但在此過程中也產生了一些問題。隨著作家、程序員、營銷人員以及似乎介於兩者之間的每個人都在使用 ChatGPT 生成內容，世界各地的公司都在盯著 AI 生成內容的海嘯。

由於剽竊和被盜內容的問題不斷圍繞著 ChatGPT 及其輸出，OpenAI 現在發布了一個新的 GPT 分類器，該工具旨在檢測和披露您正在閱讀的文本是 ChatGPT 的作品還是其他 GPT 的作品工具。

OpenAI 推出 GPT-Classifier 以幫助檢查 AI 編寫的文本

OpenAI 的公告是在對 AI 編寫和 AI 生成文本的審查加強以及公司整合 ChatGPT 輸出之際發布的。

新的 GPT 分類器試圖弄清楚一段給定的文本是人類編寫的還是 AI 生成器的作品。雖然 ChatGPT 和其他 GPT 模型針對各種文本輸入進行了廣泛的訓練，但 GPT-Classifier 工具“針對同一主題的人工文本和 AI 文本對的數據集進行了微調”。

因此，GPT 分類器不是收集信息並重新創建其最佳近似值，而是嘗試比較已知人類文本和已知 AI 文本之間的相似性，以找出揭示源作者的差異。

GPT-Classifier 的檢測目前有限

雖然輕鬆識別 AI 生成的文本的想法對編輯和教育工作者來說是個好消息，但 OpenAI 警告說其“分類器並不完全可靠”。

目前，GPT 分類器“正確識別了 26% 的 AI 編寫的文本”，同時將 9% 的人類文本標記為 AI 編寫的。OpenAI 還指出，該工具的準確性“通常會隨著輸入文本長度的增加而提高”。

對 GPT 分類器的粗略測試發現了一個人類生成的示例，並將其標記為“不太可能是 AI 生成的”，並且還正確地指出了 ChatGPT 生成的關於 USB 問題的片段“可能是 AI 生成的”。

ChatGPT 檢測需求旺盛

即使有 GPT-Classifier 的局限性，對可靠的 ChatGPT 檢測的需求也可能會導致許多人轉向此工具。OpenAI 致力於構建和發布免費的 GPT 檢測工具非常重要，因為隨著越來越多的學生、作家、程序員和其他人使用 AI 文本生成工具，理解和檢測這種輸入將變得至關重要。

目前，儘管 GPT-Classifier 已啟動並運行並可用於測試，但最好對其標籤持保留態度。