近期，OpenAI的AI語音轉(zhuǎn)寫工具Whisper被曝出存在重大缺陷，該工具竟然會生成大量與原始語音不符的虛假信息。這一發(fā)現(xiàn)引發(fā)了社會各界的廣泛關(guān)注與討論。
據(jù)悉，已有部分醫(yī)療機構(gòu)，如美國明尼蘇達州曼卡托診所和洛杉磯兒童醫(yī)院，采用了基于Whisper開發(fā)的工具來記錄醫(yī)患會診內(nèi)容。然而，OpenAI此前曾明確警告，Whisper不適用于高風險領(lǐng)域。
一位機器學習工程師在分析了超100小時的Whisper轉(zhuǎn)錄數(shù)據(jù)后，發(fā)現(xiàn)約半數(shù)內(nèi)容存在嚴重失實。這可能與語音中的停頓、背景噪音或音樂播放有關(guān)。
對此，OpenAI表示正在積極研究如何減少虛構(gòu)內(nèi)容，并承諾在后續(xù)模型更新中改進。
