谷歌稱發生了兩件事導致了本週 Gemini AI 影像產生器的問題

本週早些時候，人們開始報告 Google Gemini（以前稱為 Bard）聊天機器人中的圖像生成器功能正在創建不合適的藝術作品。更具體地說，該系統在不適合這些角色的歷史或虛構角色中描繪了深色膚色的人。

在藝術作品被報導後，Google宣布將暫時關閉 Gemini使用其圖像生成器創作人物藝術作品的能力。週五晚些時候，該公司在一篇部落格文章中解釋了 Gemini 發生的事情。

它還不希望聊天機器人拍攝真人的圖像。

同時，如果有人向聊天機器人詢問更一般的圖像，例如顯示足球隊中的人們，谷歌也希望允許 Gemini 描繪一系列種族。如果一個人想要描繪特定類型的人，例如白人醫生或黑人老師，雙子座也應該能夠製作該藝術品。

拉加萬隨後寫道，雙子座的文字提示護欄中的兩個具體內容允許創建本週的不當圖像：

首先，我們為確保雙子座顯示一系列人而進行的調整未能考慮到顯然不應該顯示範圍的情況。其次，隨著時間的推移，該模型變得比我們預期的更加謹慎，並拒絕完全回答某些提示——錯誤地將一些非常鎮痛的提示解釋為敏感。

這兩件事導致模型在某些情況下過度補償，而在其他情況下過度保守，導致圖像令人尷尬和錯誤。

目前還沒有透露谷歌需要多長時間來修復其護欄，以便重新開啟與 Gemini 圖像生成器中的人進行藝術創作。拉加萬確實表示，雖然他不能保證 Gemini 永遠不會製作令人反感的藝術品，但谷歌“只要我們發現問題，就會繼續採取行動。”