Instagram正采用AI對抗網(wǎng)絡(luò)欺凌行為
隨著智能手機(jī)等聯(lián)網(wǎng)設(shè)備逐漸普遍化,網(wǎng)絡(luò)已成為現(xiàn)代生活不可或缺的一部分,然而伴隨而來的網(wǎng)絡(luò)暴力更是四處泛濫。網(wǎng)絡(luò)暴力是一類在網(wǎng)絡(luò)上發(fā)表具有傷害性、侮辱性和煽動性的言語、圖片、視頻的行為現(xiàn)象,被稱之為“無形的殺手”,近年來導(dǎo)致自殺抑郁等心理摧殘的網(wǎng)絡(luò)暴力事件層出不窮。
面對泛濫的網(wǎng)絡(luò)暴力,Instagram正在采取行動反對其平臺上的欺凌行為。去年,Instagram推出了一個增強(qiáng)版的評論過濾器,該過濾器通過機(jī)器學(xué)習(xí),能夠發(fā)現(xiàn)具有網(wǎng)絡(luò)暴力性質(zhì)的關(guān)鍵詞和語言。
隨著公眾對Facebook的信任度下降,Instagram仍然是該公司產(chǎn)品陣容的亮點,而且它還有可能被Facebook破壞的丑聞所波及。在這種情況下,使用人工智能來幫助清除令人反感的內(nèi)容,并讓Instagram成為一個擁有良好氛圍的家園是非常重要的。
現(xiàn)在,該公司正在擴(kuò)大有關(guān)照片和字幕類似篩查的覆蓋范圍。最近,Instagram宣布它將使用AI“主動檢測欺凌性言語”,這是一種機(jī)器學(xué)習(xí)工具,用于檢測照片和字幕中的欺凌行為。如果人工智能工具認(rèn)為照片不合適或不受歡迎,它會發(fā)送給Instagram社區(qū)運營團(tuán)隊進(jìn)行進(jìn)一步審核然后再將內(nèi)容發(fā)送給人工審查。
去年在Wired發(fā)表的一篇報道解釋了Instagram的機(jī)器學(xué)習(xí)評論過濾器的一些細(xì)節(jié),并確定這種技術(shù)不適用于內(nèi)容審核。大規(guī)模部署人工智能成本較低,但它仍然無法處理人類背景之下的細(xì)微差別,這就是為什么這些新的欺凌過濾器還需要向人工篩檢人員發(fā)送內(nèi)容以執(zhí)行最終檢查,沒有監(jiān)督的自動化是一種災(zāi)難。
這個名為DeepText的系統(tǒng)基于人工智能系統(tǒng)和word embeddings的概念,旨在于模仿人類語言的理解方式。當(dāng)系統(tǒng)解釋一個單詞時,它會嘗試以人腦識別單詞的方式,并結(jié)合語境來確定其含義。DeepText作為內(nèi)部工具構(gòu)建的,可以讓Facebook工程師快速分類大量文本,創(chuàng)建分類規(guī)則,然后構(gòu)建產(chǎn)品用以幫助用戶。
據(jù)Instagram發(fā)言人稱,人工智能工具會檢測字幕和評論中的欺凌行為,例如攻擊某人的外表或幸福。它還對圖像和字幕進(jìn)行比較,排名和評級,以便在照片中發(fā)現(xiàn)欺凌行為,例如分屏圖像中某人的惡意比較。
并且Instagram還為直播視頻推出了欺凌評論過濾器。過濾器可以在直播期間檢測并阻止令人反感的單詞。Instagram已于5月推出了過濾器,用于Feed,Explore和Profile中的照片和視頻評論過濾。
Instagram表示,人工智能系統(tǒng)不只是分析照片標(biāo)題來識別欺凌,還有照片本身。在向The Verge發(fā)表講話時,一位發(fā)言人舉例說明,人工智能正在尋找分屏圖像作為潛在欺凌的例子,因為一個人可能會與另一個人進(jìn)行負(fù)面比較。人工智能將尋找的其他因素尚不清楚,但這可能是一個好主意,當(dāng)Facebook宣布它將使用人工智能時,人們就立即開始考慮如何應(yīng)對這些過濾器了。
Facebook和Twitter也推出了類似的舉措來限制其平臺上的欺凌行為。Twitter在去年十月制定了一個時間表,以便從其平臺中刪除裸露和仇恨圖像等內(nèi)容。本月早些時候,F(xiàn)acebook添加了一些工具,允許用戶一次隱藏或刪除多條評論,并允許用戶代表朋友或家人報告欺凌或騷擾。
除了新的過濾器,Instagram還推出了“善意的相機(jī)效果”,這聽起來像是一種傳播積極信息并能提高用戶參與度的方法。使用后置攝像頭時,效果會在屏幕上顯示“多種語言的親切評論”;切換到前置攝像頭,你會得到一絲閃亮的心和禮貌的鼓勵來“標(biāo)記你想要的朋友”。
網(wǎng)絡(luò)是把鋒利的雙刃劍,當(dāng)我們利用網(wǎng)絡(luò)拉近世界各地之間距離的同時,不也能忽視網(wǎng)絡(luò)“噴子”、“鍵盤手”的危害,這次instagram所做舉動,是否能為現(xiàn)今魚龍混雜的網(wǎng)絡(luò)環(huán)境帶來一股清流,是值得我們期待的。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-10.29立即報名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會
-
10月31日立即下載>> 【限時免費下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月14日立即報名>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
推薦專題
-
10 百度搜索,正在被平替
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價拍賣
- 5 具身智能火了,但規(guī)模落地還需時間
- 6 三次錯失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 7 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實力拉滿
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市