吳明宜OpenAI推AI Classifier辨識學生報告，準確率太低後下架。研發更有效判別技術，拓展應用領域。
今年一月知名新創公司 OpenAI 宣佈推出 AI Classifier，這是一套可幫老師們辨識學生報告是否為 ChatGPT 等 AI 寫成的工具，不過半年後，OpenAI 悄悄下架該服務了。
OpenAI 表示關掉的原因是準確率太低。 OpenAI 並非發出新公告，而是在當初宣佈 AI Classifier 的官網部落格上加上了不再服務的聲明，連到 AI Classifier 的連結也拿掉了。
OpenAI 說他們已採納用戶回饋，目前正在研究更有效的文字判別技術，也將投入開發與部署協助用戶判斷聲音、影像內容是否為 AI 產生的機制。
全球 AI 技術大爆發，幾乎每天都有讓用戶產生新文字、照片、圖像、聲音、影片的新工具上線，而愈來愈精良的品質也讓偵測 AI 內容的工具具有極大需求。
OpenAI 的 AI Classifier 當初聲稱能辨別人類或 AI 創作文字。不過即使上線之時，OpenAI 也說這工具並非完全穩定，它在判斷英文文章的資料集測試結果，判讀「可能為 AI 寫作」的準確率為 26%，而把人類寫作的文字誤判為 AI 生成的比例則為 9% 。
OpenAI 說，AI Classifier 的限制包括，文字字元少於 1000 字時穩定度會一降，而且其神經網路用在其訓練資料外，效能會下降。
教育界對偵測真假的 AI 尤其有興趣。自去年 11 月 ChatGPT 上線以來，老師們就發現學生利用它來幫忙寫報告或論文。
OpenAI 當時說，他們了解到，辨識 AI 生成文字是教育工作者的熱門話題，也必須承認教育類文字的辨別工具有其限制。 OpenAI 也會繼續努力並拓展應用領域。
來源：Decrypt.com