AI 寫判決首例！哥倫比亞法官用 ChatGPT 協助產生判決文字 AI 倫理學家大為批判

哥倫比亞一名法官運用 ChatGPT 的回應做出法庭裁決，成為藉由首宗 AI 文字產生技術輔助的法院判決。

哥國第一巡迴法庭法官 Juan Manuel Padilla Garcia 在法院文件中表示，他運用 ChatGPT 提出官司問題，並將其 ChatGPT 的回應融入判決中。

但他指出，整合 AI 產出的文字的目的絕非是為了取代法官判決，而是在確認 AI 提供的資訊後，加速草擬判決的時間。

這宗官司主旨是關於一名保險公司是否應支付自閉症兒童醫療的理賠。根據法院文件，法官輸入 ChatGPT 的問題包括：「自閉症兒童是否可以不支付其治療的費用？」及「憲法法庭是否曾在類似案件做出有利（自閉症兒童）的判決？」

這名法官之後將 ChatGPT 的全部回應包含在判決中，同時也加入他自己的見解，表示 AI 只是用於「擴展判決的論點」，這些就成為其判決的基礎。

哥倫比亞法律並未禁止在法庭判決中使用 AI，但是多項研究已清楚顯示，ChatGPT 之類的 AI 系統卻可能給出有偏見、歧視性或根本錯誤的答案。這是因為語言模型並非真的理解文字的意義，而只是經過數百萬範例訓練後，根據機率合成出文句的結果。

開發 ChatGPT 的 OpenAI 已經加入過濾機制，避免產生有問題的回答，但依然警告該工具還是有侷限性，因此不應用在關鍵判決中。

雖然本案是第一宗法官承認使用 AI 文字生成器的案件，但早已經法院使用自動化決策工具來決定判決，或是刑事案被告是否得以保釋。法庭使用自動化系統遭到 AI 倫理學者的強烈批判，他們說，AI 經常強化種族和性別歧視的刻板印象，使現有不平等更加鞏固。

雖然哥倫比亞法院案例說明 AI 只是為了加快判決寫作，且其回應也經過事實審查，但已證明，AI 會愈用愈深愈廣。

來源：Motherboard