Facebook正用人工智能檢測(cè)深度假視頻!
所謂的“深度假視頻”現(xiàn)在成為美國(guó)立法者擔(dān)心的一個(gè)主要問(wèn)題,他們擔(dān)心AI偽造的政府人員視頻可能成為國(guó)家安全威脅。
Facebook表示它已經(jīng)建立了一個(gè)機(jī)器學(xué)習(xí)模型來(lái)檢測(cè)潛在的虛假照片或視頻,然后將這些模型發(fā)送給其事實(shí)檢查員進(jìn)行審查。第三方事實(shí)檢查合作伙伴可以使用視覺(jué)驗(yàn)證技術(shù),包括反向圖像搜索和圖像元數(shù)據(jù)分析來(lái)審查內(nèi)容。
Facebook打算利用其收集的照片和視頻評(píng)論者來(lái)提高其機(jī)器學(xué)習(xí)模型的準(zhǔn)確性,以檢測(cè)這些媒體格式的錯(cuò)誤信息。
它定義了照片和視頻中的三種錯(cuò)誤信息,包括:操縱或制作的內(nèi)容;脫離背景呈現(xiàn)的內(nèi)容;文字或音頻中的虛假聲明。
Facebook提供了與文本相比識(shí)別圖像和視頻內(nèi)容中的虛假信息的困難的高級(jí)概述,以及它用于克服它們的一些技術(shù)。但總體而言,人們的印象是,F(xiàn)acebook并沒(méi)有接近自動(dòng)系統(tǒng)來(lái)大規(guī)模檢測(cè)視頻和照片中的錯(cuò)誤信息。
目前,它正在使用OCR從照片中提取文本,例如照片上的虛假標(biāo)題,以便將文本與事實(shí)檢查員文章的標(biāo)題進(jìn)行比較。它還在開(kāi)發(fā)檢測(cè)照片或視頻是否被操縱的方法。為此,它使用音頻轉(zhuǎn)錄來(lái)比較它從音頻中提取的文本是否與事實(shí)檢查者之前已經(jīng)揭穿的文本中的聲明匹配。
“目前,我們正在與照片上比我們使用的視頻音頻轉(zhuǎn)錄使用OCR更先進(jìn)的,”說(shuō)的Facebook產(chǎn)品經(jīng)理泰莎里昂。
與文章一樣,一旦事實(shí)檢查人員確認(rèn)其為假,F(xiàn)acebook將專(zhuān)注于識(shí)別虛假視頻和照片的重復(fù)。
Lyons表示,F(xiàn)acebook在尋找精確復(fù)制的照片方面“相當(dāng)不錯(cuò)”,但是當(dāng)圖像被輕微操縱時(shí),F(xiàn)acebook更難以自動(dòng)檢測(cè)。
“我們需要繼續(xù)投資技術(shù),這將有助于我們識(shí)別出以微小方式發(fā)生變化的非常接近的副本,”里昂斯說(shuō)。
Lyons表示,檢測(cè)某些東西是否脫離背景也是一項(xiàng)重大挑戰(zhàn)。
“了解某些事情是否脫離了背景是我們正在投資的領(lǐng)域,但還有很多工作要做,因?yàn)槟阈枰私饷襟w的原始背景,媒體呈現(xiàn)的背景,以及是否兩者之間存在差異,“她指出。
照片和視頻內(nèi)容中的錯(cuò)誤信息的影響也因國(guó)家而異。Facebook已經(jīng)發(fā)現(xiàn),在美國(guó),大多數(shù)人報(bào)告看到文章中的錯(cuò)誤信息,而在印度尼西亞,人們更多地報(bào)告在照片中看到的誤導(dǎo)信息。
“在媒體生態(tài)系統(tǒng)欠發(fā)達(dá)或識(shí)字率較低的國(guó)家,人們可能更有可能在照片上看到錯(cuò)誤的標(biāo)題,或看到偽造的照片,并將其解釋為新聞,而在擁有強(qiáng)大新聞生態(tài)系統(tǒng)的國(guó)家,“新聞”的概念更多地與文章聯(lián)系在一起,“里昂說(shuō)。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
推薦專(zhuān)題
- 1 Intel宣布40年來(lái)最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣(mài)
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 7 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來(lái)
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿(mǎn)
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市