吳明宜Google Gemini因種族錯誤關閉人物圖像生成，緊急修正後將重啟功能。
Google Gemini 聊天機器人注重多元化，但其圖片生成服務在生成歷史人物時出包鬧出笑話，緊急關閉產生人物圖像的功能。 Google 也在周末做出解釋原因。
Google Bard 二月初改名為 Gemini 後才準備重新出發，不料它在生成歷史或當代人物圖像時，卻發生多起種族錯誤的離譜情形，迫使 Google 緊急 Gemini 關閉歷史人物生成的功能。根據用戶轉貼的連結，Google 生成了非裔美國建國元勛，亞裔納粹軍人、黑人與女性教宗、甚至連創辦人 Larry Page 和 Sergey Brin 都變成了亞洲人。
上周 Gemini 產品經理 Jack Krawczyk 表示，Gemini 的人物生成是為了反映全球化的用戶組成，但多元化原則用在此時卻出現問題，Google 正在修正。
Google 資深副總裁 Prabhakar Raghavan 於本周進一步說明出錯原因。他說，Google 對 Gemini 的訓練過程，使其總是會反映多元種族，卻忽略了某些情況下並非如此。他說久而久之，Gemini 的模型謹慎程度超越預期，甚至拒絕回答某些問題，因為它將某些無害的提示錯誤解讀。
也就是說，為了修正過去 AI 被批評「太白」、「男性主導」的問題，Google 在訓練 Gemini 時特別強調多元化價值，因此時時要記得反映不同性別、種族，卻忘了人類歷史上有某些時期不是如此，它對適合與否的解釋也出乎預期。
結果就是在某些情況下，Gemini 矯枉過正，某些時候又過份保守，導致出現了十分尷尬的結果。
Raghavan 說，Gemini 人物圖像生成功能未來回歸時會大幅變更，是經過「廣泛測試」的修正。
來源：PC Magazine