Gemini 影像生成能力大不如前，Google削弱

谷歌的生成式人工智慧聊天機器人Gemini最近經歷了一次崩潰，最終產生了不準確且令人反感的圖像，在該事件發生後，該公司決定削弱其圖像生成功能，直到找到修復程式並恢復服務。

雙子座因某些種族人士的形象塑造陷入困境

谷歌談到 Gemini 是一個獨立的產品實體，這使得它不直接與搜尋、其人工智慧模型及其提供的其他服務相關聯。一旦應用程式準備就緒，谷歌就會手動調整模型，以便圖像生成可以是多樣化的，而不是對某些人群或種族表現出偏見，谷歌這樣做是有道理的，因為這樣做是為了確保來自不同地區的用戶全世界都可以使用該應用程式而不會遇到任何重大問題。

然而，任何對策都無法阻止後來發生的事。 Gemini 無法解釋使用者實際上正在尋找圖像中存在的特定種族的用例。這導致了一些非常奇怪的提示，例如“教室裡有黑人老師”，這導致模型生成不正確且令人反感的圖像。在某些情況下，它甚至一開始就拒絕產生影像。原因是該模型認為它們敏感，儘管它們並不敏感。

那麼，谷歌對整個情況的立場是什麼？好吧，該公司已經關閉了生成雙子座人物圖像的功能。該公司已經討論了在整個模型經過廣泛測試後問題解決後將如何啟用它。谷歌也談到了人工智慧模型並不完美，儘管從引入之初就已經很先進，但它們仍然有產生幻覺的傾向，這可能會導致問題。

至於時間表，Google確實還沒有透露，我們將不得不等待 Gemini 圖像生成完成並準備就緒。我們確實希望當它回來時，它會比以前更好，並且在創建圖像方面做得更好。

新聞來源：Google博客