AI審核不靠譜?微軟Bing被曝顯示兒童色情內(nèi)容
微軟在2019年年初就遭遇了不少的危機,今天,據(jù)外媒報道,微軟的Bing搜索中有一些相關的關鍵字,正在為戀童癖者提供大量的兒童色情內(nèi)容,微軟回復正在努力修復中。
安全公司的調研中發(fā)現(xiàn),微軟必應搜索不僅僅會在搜索結果中返回裸體兒童照片,如果用戶點擊這些圖片,必應也會在類似圖片功能中展示更多非法虐待兒童圖像,他們還會向用戶推薦其他類似搜索關鍵詞,從而跳轉出更多的兒童色情內(nèi)容。
然而,谷歌的類似搜索卻沒有像必應這樣出現(xiàn)明顯的非法圖像以及內(nèi)容。對此,微軟必應和人工智能產(chǎn)品副總裁喬迪·里伯斯(Jordi Ribas)表示,“研究人員發(fā)現(xiàn)的搜索結果確實違反了網(wǎng)站規(guī)則,公司正在努力防止此類事故的發(fā)生!
此前,微軟宣布正在通過他們的AI研究成果讓必應搜索變得更加智能。去年,他們還通過使用專門的人工智能計算硬件BrainWave,使機器學習模型的性能提高10倍以上,增強了微軟必應搜索引擎的功能。
而在兒童色情內(nèi)容上,微軟還開創(chuàng)了PhotoDNA技術,實現(xiàn)兒童性虐圖片檢測的自動化,讓此類非法圖片可以由電腦程序而非工程師自動識別。
據(jù)了解,PhotoDNA可以將圖片轉化為常見的黑白格式,還能將圖片尺寸調整至指定大小。然后該技術會把圖片分成一個個正方形,同時給每一個正方形內(nèi)存在的特有底紋分配一個數(shù)值。這些數(shù)值結合在一起以后,就代表一個圖像文件的“PhotoDNA簽名”。這種獨一無二的簽名可以被用于與其他在線圖片進行比對。
早些時候,微軟已經(jīng)將PhotoDNA技術應用在必應上,用來識別兒童性虐圖片,阻止這些照片在網(wǎng)上進一步傳播。
現(xiàn)在,必應卻被曝出這種負面事件,可以看到這項AI技術似乎并沒有預料中的有效,技術并沒有過濾掉那些非法色情的內(nèi)容。
當然,不僅僅是搜索引擎會遇到這種問題,社交平臺、內(nèi)容分發(fā)平臺也經(jīng)常被曝出各種性虐色情內(nèi)容傳播,其實這也在某種程度上反映了整個科技行業(yè)的現(xiàn)狀,當科技公司過于追求營收的增長以及效率,就會忽視對公眾利益的保護,比如如何在機器審核和人工審核之間的達到平衡。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
- 1 Intel宣布40年來最重大轉型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 國產(chǎn)英偉達們,抓緊沖刺A股
- 7 三次錯失風口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英偉達的麻煩在后頭?
- 9 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 10 智慧貨架管理引領零售新風尚
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市