微軟和 OpenAI 聲稱駭客正在使用生成式人工智慧來改進網路攻擊

當我們得知有組織的網路犯罪分子開始使用生成式人工智慧工具和服務進行新型攻擊時，我們並不感到震驚。今天，我們獲得了有關這些國家資助的駭客如何使用大型語言模型的更多資訊。

在一篇部落格文章中，微軟與 OpenAI 合作，宣布了一項關於駭客如何使用 LLM 的新研究。其中包括已確定使用生成式 AI 工具的特定群體的資訊。

這些組織的總部位於俄羅斯、北韓、伊朗和中國等國家。其中一個被標記為“森林暴雪”，與俄羅斯 GRU 26165 部隊有聯繫。微軟表示，該組織一直積極針對與持續入侵烏克蘭有關的組織。

微軟聲稱森林暴雪一直在使用法學碩士「來了解衛星通訊協定、雷達成像技術和具體技術參數。」其研究補充說，該小組也一直在嘗試使用法學碩士實現文件選擇和操作等任務的自動化。

微軟表示正在使用人工智慧的另一個網路犯罪組織被標記為「鮭魚颱風」。這家總部位於中國的組織有針對政府和美國國防承包商的歷史。據微軟稱，Salmon Typhoon 以多種方式使用了法學碩士。其中包括查找編碼錯誤和翻譯技術計算論文。

微軟表示將繼續與 OpenAI 合作，研究網路犯罪分子對人工智慧的使用。

作為這項承諾的一部分，我們已採取措施破壞與威脅行為者相關的資產和帳戶，加強對OpenAI LLM 技術和用戶的保護，使其免受攻擊或濫用，並圍繞我們的模型製定護欄和安全機制。

該公司補充說，它將使用自己的Copilot for Security 服務來追蹤這些基於法學碩士的網路威脅。