機(jī)器人，另一個(gè)我

開頭說到AI、隱私和機(jī)器人科幻之間可能存在某種關(guān)聯(lián)。這種關(guān)聯(lián)源自技術(shù)的不斷發(fā)展，科幻為技術(shù)的未來提供了某種可能性的遐想。

AI的發(fā)展需要很多數(shù)據(jù)來滿足場景建模的需要，AI算法可以通過分析每個(gè)人的各種行為數(shù)據(jù)推導(dǎo)出這個(gè)人的人格特征。算法通過個(gè)人在社交網(wǎng)站中的點(diǎn)贊數(shù)據(jù)即可分析出這個(gè)人的喜好特征，通過協(xié)同過濾算法就可以對個(gè)人進(jìn)行精準(zhǔn)廣告推送，比如給外向的人推送的廣告場景相對活躍和充滿激情，給內(nèi)向的人推送的則是相對安靜和私密的場景。

同樣的分析手段甚至被用在選舉宣傳的過程中，能起到影響選民決策判斷的作用。通過給不同性格或者意向動搖的選民推送不同版本的選舉廣告，或者推送對手的負(fù)面新聞，左右目標(biāo)群體的決策，來達(dá)到“心理操縱”的目的。

而不斷進(jìn)化的人臉識別技術(shù)可以僅通過面部特征的識別就能判斷出一個(gè)人的性取向這么私密的信息，準(zhǔn)備率能達(dá)到80％以上，而我們?nèi)祟惐旧砗茈y只通過一張臉就能判斷出一個(gè)人的性取向。以色列的一家公司Faception聲稱，可以直接通過面部特征來識別恐怖分子、高智商的人群，分分鐘看透你的內(nèi)心。

AI可以不斷地從人類的隱私數(shù)據(jù)中攫取價(jià)值，甚至能夠再現(xiàn)人的心智模型。有沒有想過，有一天，一旦AI掌握了人的足夠多的關(guān)鍵數(shù)據(jù)，建立更加完備的模型，不僅能做到“心理操縱”，甚至可以做到“心靈控制”。

人類的實(shí)體存在和精神存在被抽象為一個(gè)個(gè)復(fù)雜的畫像模型，或者“心靈鏡像”，這些模型和鏡像包含了我們的所有特征，包括身份、性格、思維等等。只要將數(shù)據(jù)拷貝到一個(gè)機(jī)器人中，就可以生成另一個(gè)“我”，甚至另一批“我”。

這里的機(jī)器人可以理解為以機(jī)器為載體的AI算法和存儲機(jī)制，加上更為先進(jìn)的能源和機(jī)器進(jìn)化機(jī)制，托管人類只是理所當(dāng)然的事情，人類的心靈鏡像只是被更為高階的AI算法利用。會發(fā)生什么，我現(xiàn)在還不敢往下去想。

這或許讓你想起了《黑客帝國》、《異次元駭客》這樣的科幻電影。AI通過不斷的迭代和進(jìn)化，直至讓機(jī)器人達(dá)到與人的心靈模型近乎一致，這是科學(xué)家們一直在追求的夢想，也是可怕的未知的未來。

已知的未來

AI應(yīng)用的邊界、隱私數(shù)據(jù)保護(hù)的度在哪里，現(xiàn)在還是未知。社交活動數(shù)據(jù)、零售數(shù)據(jù)、金融行為數(shù)據(jù)、醫(yī)療健康數(shù)據(jù)等被廣泛用于AI各種應(yīng)用場景，的確也朝著為人類帶來更多服務(wù)的方向發(fā)展，但是對于這樣的涉及隱私數(shù)據(jù)利用的監(jiān)管仍處于探索階段。

任何企業(yè)應(yīng)用與隱私之間需要一個(gè)權(quán)衡。歐盟去年5月出臺的一般數(shù)據(jù)保護(hù)條例（GDPR）中有幾條關(guān)于隱私數(shù)據(jù)的保護(hù)原則，其中不僅包括隱私數(shù)據(jù)的處理過程需公正透明，使用場景和保留期限需明確限定，數(shù)據(jù)需保證完整、準(zhǔn)確和保密等要求；而且還要求對隱私數(shù)據(jù)的獲取要滿足最小化原則，也即只獲取必要的、相關(guān)的、限定的隱私數(shù)據(jù)。

GDPR的推出在全球關(guān)乎隱私數(shù)據(jù)的保護(hù)方面具有非常強(qiáng)的引領(lǐng)作用。在各種AI算法和模型得到越來越廣泛應(yīng)用的今天，針對上述隱私數(shù)據(jù)的保護(hù)原則，尤其是最小化原則、保密性原則、透明性原則，AI公司或者與AI產(chǎn)品相關(guān)的公司必須考慮AI算法的發(fā)展方向�？梢灶A(yù)見，未來滿足下面條件的算法將是主要方向：

（1）需要更少隱私數(shù)據(jù)的AI算法。這樣的算法要么可以自己生成觀測數(shù)據(jù)，如生成式對抗網(wǎng)絡(luò)（GAN）；要么通過分布式解決中心化訓(xùn)練對數(shù)據(jù)量的要求，如分布式機(jī)器學(xué)習(xí)（Federatedlearning）可以實(shí)現(xiàn)在邊緣設(shè)備端進(jìn)行模型的再訓(xùn)練。

（2）基于加密數(shù)據(jù)的訓(xùn)練算法。將原始隱私數(shù)據(jù)加密，并且還能通過加密后的數(shù)據(jù)進(jìn)行訓(xùn)練，這樣不需要減少對隱私數(shù)據(jù)的獲取，也能保證數(shù)據(jù)的保密性。這樣的算法包括差分隱私技術(shù)、同態(tài)加密以及遷移學(xué)習(xí)等方法。

（3）可解釋的AI（Explainable AI，簡稱XAI）。很多AI算法的黑箱性質(zhì)讓人類擔(dān)憂。XAI致力于提高算法應(yīng)用的透明度，構(gòu)建“玻璃箱”模型，使人類能夠輕松理解AI算法，提高AI認(rèn)知智能在人類活動中的可信度。這將是未來趨勢。（作者：李加慶）