AI 融入 BI 可期,“偏見(jiàn)”如影隨形怎破?
“偏見(jiàn)”:AI發(fā)現(xiàn)人為造成的不公平
在筆者翻譯的一篇文章中指出招聘、協(xié)作、銷(xiāo)售工具中的AI偏見(jiàn)無(wú)處不在。偏見(jiàn)是AI的致命弱點(diǎn)。而DataRobot的研究發(fā)現(xiàn),在美國(guó)和英國(guó),將近一半(42%)的AI專(zhuān)業(yè)人士“非!被颉皹O其”擔(dān)心AI偏見(jiàn)。AI可以在最意想不到的地方出現(xiàn),沒(méi)有系統(tǒng)可以免疫。
根據(jù)領(lǐng)英(LinkedIn)的研究,43%的招聘人員和招聘經(jīng)理表示,在招聘工具中引入AI的一個(gè)關(guān)鍵好處是它有消除人類(lèi)偏見(jiàn)的潛力。然而,承諾將偏見(jiàn)最小化的人工智能工具,也可能在招聘過(guò)程中注入偏見(jiàn)。以谷歌的招聘廣告算法為例,更多向男性顯示高薪職位。
的確在招聘和銷(xiāo)售等領(lǐng)域容易產(chǎn)生偏見(jiàn),但是偏見(jiàn)是AI帶來(lái)的嗎?
“AI的偏見(jiàn)是數(shù)據(jù)原生的偏見(jiàn)。”葉松林強(qiáng)調(diào),假如數(shù)據(jù)里面多數(shù)男性的工資本身即高出女性10%,AI在讀取數(shù)據(jù)后,便會(huì)提供一個(gè)男性薪資高出10%的建議。
“這種偏見(jiàn)并不是說(shuō)機(jī)器造成的,而是機(jī)器告訴你,世界上存在不平等的問(wèn)題。這種不公平是過(guò)去長(zhǎng)久以來(lái)人造成的。恰恰是AI把這個(gè)問(wèn)題揭示出來(lái),以前人們可能沒(méi)有意識(shí)到這個(gè)問(wèn)題,AI把這個(gè)問(wèn)題有效地揭示出來(lái)之后,人在做決策的時(shí)候,恰恰可以有意糾正它的不公平性!备咴讫堖M(jìn)一步指出偏見(jiàn)本身就是數(shù)據(jù)所潛在的客觀(guān)規(guī)律。
所以Tableau強(qiáng)調(diào)AI只是輔助公司做決策,可以提一些意見(jiàn),對(duì)公司而言人才是最重要的。
Tableau 數(shù)據(jù)科學(xué)家兼主任軟件工程師Rachel Kalmar指出:“AI 項(xiàng)目中最困難的環(huán)節(jié)之一就是確定您要提出的問(wèn)題!眳f(xié)作式方法可以揭示業(yè)務(wù)決策的哪些環(huán)節(jié)適合使用AI,哪些環(huán)節(jié)需要人工干預(yù)。假設(shè)要開(kāi)一家新的零售商店,但以前從未開(kāi)過(guò)這樣的商店。基于 AI 的系統(tǒng)可以根據(jù)該地區(qū)的人流或人口統(tǒng)計(jì)學(xué)特征來(lái)提供建議,幫助預(yù)測(cè)商店的預(yù)期銷(xiāo)售額。但仍然需要領(lǐng)域?qū)<业膸椭,這些人可以在位置可見(jiàn)性、競(jìng)爭(zhēng)對(duì)手信息或停車(chē)位情況等方面填補(bǔ)空缺。要讓機(jī)器學(xué)習(xí)建議實(shí)現(xiàn)其價(jià)值,決策必須由人來(lái)制定。正如 Tableau 的AI 主管產(chǎn)品經(jīng)理 Richard Tibbetts 解釋的那樣:“AI 的出現(xiàn)并不意味著算法會(huì)告訴您如何做生意。真正幫助組織采用和信任AI 的是領(lǐng)域?qū)<!?/p>
由大數(shù)據(jù)、云計(jì)算、AI等技術(shù)推動(dòng)著數(shù)字化世界的構(gòu)建,而數(shù)字化世界所出現(xiàn)的諸多問(wèn)題同樣是現(xiàn)實(shí)社會(huì)的映射,或許有數(shù)據(jù)的地方就免不了存在偏見(jiàn)和不公,消除偏見(jiàn)是一個(gè)長(zhǎng)久的命題。我們?nèi)匀豢梢宰鲆恍┝λ芗暗氖虑,比如加?qiáng)監(jiān)督,讓多樣化的團(tuán)隊(duì)構(gòu)建軟件工具,仔細(xì)檢查數(shù)據(jù)健康度,加強(qiáng)內(nèi)外部審計(jì)等。說(shuō)到底,人與AI之間如何更好的協(xié)作取長(zhǎng)補(bǔ)短才能有效消除更多偏見(jiàn)需要更多的探索。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線(xiàn)會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線(xiàn)會(huì)議
-
12月19日立即報(bào)名>> 【線(xiàn)下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線(xiàn)峰會(huì)
推薦專(zhuān)題
- 1 Intel宣布40年來(lái)最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國(guó)產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣(mài)
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 國(guó)產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 7 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 8 英偉達(dá)的麻煩在后頭?
- 9 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿(mǎn)
- 10 AI+賦能新質(zhì)生產(chǎn)力——中國(guó)移動(dòng)政企亮相中國(guó)國(guó)際信息通信展覽會(huì)
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市