OpenAI 看到了全 AGI 的挑戰並概述了解決這些問題的計劃

通用人工智能 (AGI) 是一個術語，指的是可以執行人類可以完成的任何任務的 AI 系統，甚至可以做得更好。實現通用人工智能是人工智能領域最雄心勃勃、最具爭議的目標之一，因為它可能對人類的未來產生深遠影響。ChatGPT 背後的人工智能研究公司 OpenAI 最近發布了一篇博文，讓我們了解該公司將如何應對創建和管理 AGI 的挑戰。

OpenAI 希望 AGI “賦予人類最大的繁榮宇宙的能力”。對於 AGI，可能存在潛在的風險和不確定性，例如誤用、事故，甚至社會動盪。為了解決這個問題，OpenAI 提出了一套指導其 AGI 工作的短期原則——

• 在現實世界中部署和學習功能較弱的人工智能係統以獲得經驗和反饋
• 使獲得人工智能利益和治理的途徑民主化
• 開發新的對齊技術以確保人工智能係統按照人類價值觀和偏好行事
• 加強世界機構就人工智能使用和監管的廣泛範圍達成一致
• 與公眾分享有關人工智能進展的信息，並徵求不同利益相關者的意見

當然還有其他因素會影響 AGI 的發展如何影響人類。這些因素包括時間線（創建 AGI 需要多長時間）、起飛速度（AGI 自我改進的速度）、協調性（不同參與者在 AGI 開發方面的合作或競爭程度）和安全性（AGI 將如何協調一致）與人類目標保持一致）。OpenAI 表示，更短的時間線和更慢的起飛速度將使政府、公司和全體普通民眾有更多時間學習、適應和協調，以逐漸了解正在發生的事情並體驗該技術的優勢和劣勢。

話雖如此，OpenAI 也警告說，事情是不可預測的，甚至公司本身也沒有針對未來潛在問題的所有答案和解決方案，尤其是在 AGI 成為主流之後。該公司希望，從長遠來看，必須就如何管理這些系統、如何公平分配它們的利益以及如何公平共享訪問權限展開對話。

OpenAI 還強調了公司​​的結構如何與其使命保持一致。公司章程概述了其開發 AGI 的原則和目標。它還對其股東可以獲得的回報設定了上限，而且該公司實際上由一個監督其活動的非營利性董事會管理。如果與公司的使命相衝突，董事會也可以推翻任何營利性利益。

單擊此處，您可以閱讀更多有關 OpenAI 如何規劃 AGI 未來的信息。

你是讚成還是反對 AGI 的想法？在下面的評論部分讓我們知道您的想法。