OpenAI語音轉(zhuǎn)寫工具被曝嚴(yán)重缺陷:憑空捏造大段虛假內(nèi)容
快科技10月28日消息,據(jù)報(bào)道,OpenAI旗下的AI語音轉(zhuǎn)寫工具Whisper被曝存在嚴(yán)重缺陷,竟會(huì)無中生有地創(chuàng)造大段乃至整句的虛假信息,這一消息引起了廣泛關(guān)注。
尤為引人注目的是,有醫(yī)療機(jī)構(gòu)公開承認(rèn)采用了Whisper來記錄醫(yī)生與患者間的會(huì)診內(nèi)容,此舉迅速在網(wǎng)絡(luò)上掀起了軒然大波。
目前,包括美國明尼蘇達(dá)州曼卡托診所、洛杉磯兒童醫(yī)院在內(nèi)的眾多醫(yī)療機(jī)構(gòu),已有超過30000名臨床醫(yī)生和40個(gè)衛(wèi)生系統(tǒng)開始使用法國AI診療公司Nabla基于Whisper開發(fā)的工具。
然而,值得注意的是,OpenAI此前已明確發(fā)出警告,指出Whisper不宜在“高風(fēng)險(xiǎn)領(lǐng)域”內(nèi)應(yīng)用。
一位機(jī)器學(xué)習(xí)工程師在初步分析超過100小時(shí)的Whisper轉(zhuǎn)錄數(shù)據(jù)時(shí),驚人地發(fā)現(xiàn)其中約有一半的內(nèi)容存在“幻覺”現(xiàn)象,即轉(zhuǎn)寫內(nèi)容與原始語音嚴(yán)重不符。
關(guān)于Whisper這一嚴(yán)重缺陷的具體成因,目前仍不得而知。但有軟件開發(fā)者推測(cè),這些虛構(gòu)內(nèi)容的產(chǎn)生往往與語音中的停頓、背景噪音或音樂播放等因素有關(guān)。
針對(duì)此問題,OpenAI方面表示,公司正在積極研究如何有效降低虛構(gòu)內(nèi)容的產(chǎn)生,并對(duì)研究人員的發(fā)現(xiàn)表示感謝。同時(shí),OpenAI還承諾將在后續(xù)的模型更新中融入相應(yīng)的反饋機(jī)制,以期進(jìn)一步提升轉(zhuǎn)寫的準(zhǔn)確性和可靠性。
作者:鹿角來源:快科技
原文標(biāo)題 : OpenAI語音轉(zhuǎn)寫工具被曝嚴(yán)重缺陷:憑空捏造大段虛假內(nèi)容
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會(huì)
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 大模型“新星”開啟變現(xiàn)競速
- 6 PT Expo現(xiàn)場直擊!看星融元如何探索開放網(wǎng)絡(luò)新境界
- 7 云上工博會(huì)收官丨看見思谷向上的工業(yè)力量!
- 8 海信給AI電視打樣,12大AI智能體全面升級(jí)大屏體驗(yàn)
- 9 AI 投流卷哭創(chuàng)業(yè)者
- 10 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市