Ofcom稱搜尋引擎充當自殘門戶

自從 ChatGPT 推出以來，內容安全發生了巨大轉變。對於搜尋引擎來說，ChatGPT 和其他聊天機器人的自我審查實際上並不是什麼問題，但現在 Ofcom 強調了危險之一——容易存取自殘內容。

在網路傳染研究所 (NCRI) 為 Ofcom 進行的一項新研究中，主要搜尋引擎，包括 Google、Bing、DuckDuckGo、Yahoo! 和 AOL，可以充當美化或慶祝自殘內容的門戶 – 這包括網頁、圖像和影片.

作為研究的一部分，NCRI 輸入了線上社群用來隱藏真實含義的常見自殘查詢和神秘術語。根據 37,000 條搜尋結果，發現有害的自傷內容普遍存在，影像搜尋風險尤其大，而神秘的搜尋字詞會暴露更多有害內容。

Ofcom 線上安全政策開發總監 Almudena Lara 在評論調查結果時表示：

「搜尋引擎通常是人們在線上體驗的起點，我們擔心它們可能成為嚴重有害的自殘內容的一鍵門戶。

在我們於春季進行廣泛諮詢之前，搜尋服務需要了解其潛在風險及其保護措施的有效性，尤其是確保兒童上網安全的措施。”

這項研究的一個主要警告是研究人員沒有使用安全搜尋和影像模糊設定。如果父母有適當的過濾器，那麼安全搜尋之類的東西應該​​默認打開，而沒有選項可以關閉它們——為孩子提供一些保護。

Ofcom 是英國最近通過的《線上安全法案》的執行者。它將告訴搜尋引擎採取措施，減少兒童發現有害內容的機會，例如自殘宣傳、自殺和飲食失調。春季將進行一次諮詢。

資料來源：英國通信管理局