訂閱
糾錯
加入自媒體

春節(jié)特輯 | 隱私計算在金融領域應用發(fā)展報告2021

2022-02-07 11:57
零壹財經
關注

(三)法律政策的推動:隱私計算成為持續(xù)的剛需

在市場需求產生,技術基本達到可用的情況下,法律和政策環(huán)境也在朝著保護個人隱私的方向推進。

近年來,通過立法加強數(shù)字經濟下的數(shù)字安全及個人信息保護已經成為世界性的趨勢。同時,數(shù)字經濟下數(shù)據(jù)的戰(zhàn)略地位凸顯,相關支持政策頻出。

1、立法進展

1.1 歐盟GDPR生效

歐洲議會于2016年4月通過的《歐盟一般數(shù)據(jù)保護條例》(General Data Protection Regulation,GDPR),于2018年5月25日在歐盟的28個成員國生效。該條例適用于所有歐盟成員國的個人信息保護,任何收集、傳輸、保留或處理涉及到歐盟成員國內的個人信息的機構組織均受該條例的約束。

GDPR被認為是史上最嚴的數(shù)據(jù)保護法規(guī),促進了全球更為嚴格的個人信息保護趨勢。由于其約束力超越了歐盟這一地理范圍,覆蓋到在歐盟有相關業(yè)務的國際機構組織,GDPR實際上重構了國際個人信息保護標準。咨詢公司埃森哲在一份報告中認為GDPR是“近二十年來數(shù)據(jù)隱私規(guī)則領域發(fā)生的最重要變化”。

GDPR強調責任共擔,數(shù)據(jù)供應鏈上的各方都要承擔責任,改變了過去由收集和使用數(shù)據(jù)的數(shù)據(jù)擁有者負責保護數(shù)據(jù)的規(guī)則,要求數(shù)據(jù)處理者也要承擔合規(guī)風險和義務。GDPR對于違規(guī)的處罰極為嚴厲,處罰金額高達2000萬歐元或企業(yè)全球年營業(yè)額的4%(二者取較高值)。2021年7月,亞馬遜因為對個人數(shù)據(jù)的處理不符合GDRP被歐盟開出了7.46億歐元(約合8.88億美元)的巨額罰單。

1.2 美國CCPA實施

2018年6月28日,《加利福尼亞州消費者隱私保護法案》(CCPA)經州長簽署公布,并于2020年1月1日起正式實施。

CCPA從消費者保護的角度,規(guī)定了個人信息處理者的義務,包括“必須披露收集的信息、商業(yè)目的以及共享這些信息的所有第三方;企業(yè)需依據(jù)消費者提出的正式要求刪除相關信息”,等等。在處罰方面,CCPA規(guī)定違法企業(yè)面臨支付給每位消費者最高750美元的賠償金,以及最高7500美元的政府罰款。

加州的硅谷是互聯(lián)網企業(yè)的集聚地,包括世界上著名的行業(yè)巨頭如微軟、谷歌及亞馬遜等,所以CCPA的影響會通過這些互聯(lián)網企業(yè)向外輻射;另一方面,CCPA的約束范圍覆蓋了處理加州居民個人數(shù)據(jù)的營利性實體,從這個角度,與GDPR一樣,給相關跨國企業(yè)帶來影響。

1.3 中國國內法律框架體系成形

關于個人信息保護及數(shù)據(jù)安全的立法及監(jiān)管,與歐美等西方國家相比,中國國內相對滯后。但隨著近年來侵犯個人信息的現(xiàn)象頻發(fā),甚至出現(xiàn)了非法獲取,泄露、濫用,倒賣個人信息的“黑產”,侵犯個人信息與網絡詐騙及敲詐勒索等犯罪行為合流,國內的相關立法及監(jiān)管也逐步完善,監(jiān)管趨于嚴格。

在數(shù)據(jù)安全及個人信息保護方面,中國目前已經形成了包括民法、刑法及單行法在內的法律框架體系。
刑法具有最高的保護和約束效力,2017年6月,《最高人民法院、最高人民檢察院關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》開始施行,明確了侵犯公民個人信息罪的定罪量刑標。

2021年7月,最高人民法院發(fā)布的《最高人民法院關于審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規(guī)定》,明確了人臉識別技術應用的法律邊界。

2020年5月通過的《中華人民共和國民法典》中將人格權單獨成編,對個人信息受法律保護的權利內容及其行使等作了原則規(guī)定。
在單行法方面,2017年6月,《網絡安全法》開始施行。2021年,《數(shù)據(jù)安全法》及《個人信息保護法》通過,并分別于9月及11月開始施行。

表:數(shù)據(jù)安全及個人信息保護方面的法律及相關解釋(按時間順序)

數(shù)據(jù)來源:零壹智庫整理

《數(shù)據(jù)安全法》及《個人信息保護法》的通過與實施是2021年以來數(shù)據(jù)領域法制建設的重大進展。

這兩部法律的實施標志著數(shù)據(jù)安全及個人信息保護的法制治理進入系統(tǒng)化和專門化的新階段,將進一步提升整個社會的守法意識,也將促進數(shù)據(jù)相關企業(yè)嚴守業(yè)務邊界,合法合規(guī)經營;而法制環(huán)境的完善,也將促進整個數(shù)據(jù)產業(yè)的健康發(fā)展,為隱私計算行業(yè)的發(fā)展帶來契機。

2、政策推動

在法律不斷完善的同時,政策也成為隱私計算市場發(fā)展的助推器。

未來,數(shù)據(jù)將成為新的生產要素,釋放數(shù)據(jù)紅利對未來推動數(shù)字經濟高質量發(fā)展至關重要。

2019年,新型冠狀病毒疫情過后,全社會都更加認識到數(shù)字化發(fā)展的重要性。2020年開年之后出臺的一系列政策,都對隱私計算市場的發(fā)展形成有力推動。

表:數(shù)據(jù)相關政策文件(按時間順序)

數(shù)據(jù)來源:零壹智庫

根據(jù)零壹智庫調研了解,政策的出臺對市場的影響是巨大的。比如隱私計算廠商在拓展政務市場時,能明顯感受到,政策出臺后地方政府相關部門對隱私計算技術的嘗試更加積極。

法律和政策環(huán)境的變化,一方面使得對個人隱私的保護成為持續(xù)穩(wěn)定的市場需求,而非短暫的應對監(jiān)管的行動;另一方面使得對數(shù)據(jù)價值的充分應用和挖掘的行為受到正面肯定?陀^上,數(shù)據(jù)價值挖掘和個人隱私保護成為必須并行兼顧的社會目標,這使得隱私計算成為現(xiàn)實中的剛需。

隱私計算對數(shù)字經濟的影響趨勢

作為當下實現(xiàn)數(shù)據(jù)“可用不可見”的唯一技術解,隱私計算將對未來的科技產業(yè)以及實體經濟的關鍵領域產生重要影響。

在科技產業(yè),隱私計算對人工智能、區(qū)塊鏈、大數(shù)據(jù)技術的發(fā)展都將產生巨大的影響,并且隱私計算對這三個領域的影響是相互關聯(lián)的。

在實體經濟的金融、醫(yī)療、政務、零售乃至更多的領域,隱私計算的應用將為產業(yè)發(fā)展帶來新的躍遷。目前,我們了解到的隱私計算在金融、醫(yī)療、政務領域的應用是最多的。

(一)隱私計算對科技產業(yè)的影響

1、對大數(shù)據(jù)產業(yè)的影響

隱私計算將重塑大數(shù)據(jù)產業(yè)。

首先,隱私計算技術是大數(shù)據(jù)行業(yè)處理數(shù)據(jù)合法化的剛需!稊(shù)據(jù)安全法》強調,產業(yè)需要平衡數(shù)據(jù)安全與應用發(fā)展。隱私計算將成為平衡的關鍵技術支點。隱私計算致力于為數(shù)據(jù)獲取、共享、利用提供全周期的安全保障,搭建各類數(shù)據(jù)的隱私協(xié)作基礎,降低了數(shù)據(jù)泄露的風險、杜絕了明文數(shù)據(jù)留痕造成的價值遞減風險。

第二,隨著數(shù)據(jù)流通的安全化,以往較為敏感的數(shù)據(jù)領域逐漸開放。以政務數(shù)據(jù)為例,隱私計算使聯(lián)合政務、企業(yè)、銀行等多方數(shù)據(jù)建模和分析成為可能,進一步釋放數(shù)據(jù)應用價值,創(chuàng)造了多樣化的應用機遇。

2、對區(qū)塊鏈產業(yè)的影響[ 該部分主要觀點源自零壹財經調研信息,部分表述參考了鈦媒體報道《翼帆數(shù)字科技創(chuàng)始人夏平:區(qū)塊鏈最大應用前景是數(shù)據(jù)的流通與融合》]

根據(jù)零壹財經的調研信息,綜合來看,隱私計算與區(qū)塊鏈相結合,可以建立更大范圍的數(shù)據(jù)協(xié)同網絡。在未來,這可能形成數(shù)據(jù)流通的基礎設施。

區(qū)塊鏈技術可以用于解決數(shù)據(jù)資產的流轉問題。區(qū)塊鏈技術起源于密碼學的小圈子,區(qū)塊鏈最初提出的目的,是針對密碼學的這個圈子里面提出的一個具體問題的解決方案——如何實現(xiàn)安全、可靠、無可辯駁的把一筆資產從A轉給其完全陌生的B。比特幣的誕生,就是為了解決這個問題。

但是,只應用區(qū)塊鏈技術,又不能完全解決這個問題。數(shù)據(jù)的流通和傳統(tǒng)資產的流通,有一個關鍵的不同,那就是數(shù)據(jù)的流通需要解決數(shù)據(jù)的安全和隱私保護問題。如果這個問題不解決,數(shù)據(jù)就流通不起來。

數(shù)據(jù)本身的加密和安全問題,隱私計算技術可以解決。

因此,對于數(shù)據(jù)資產的流轉來講,沒有隱私計算,不能解決數(shù)據(jù)本身的安全和隱私保護問題;沒有區(qū)塊鏈,不能解決數(shù)據(jù)的確權問題以及在更大范圍內的數(shù)據(jù)網絡協(xié)作問題。區(qū)塊鏈和隱私計算二者結合,是目前能夠看到的建設大規(guī)模數(shù)據(jù)流通網絡的途徑之一。

3、對人工智能產業(yè)的影響

隱私計算與人工智能的結合,未來可以使得人工智能突破數(shù)據(jù)瓶頸,開啟新一輪增長。

近幾年來,由于缺乏可用的數(shù)據(jù),人工智能的發(fā)展遭遇瓶頸。

一方面,政府和個人對于數(shù)據(jù)隱私保護的需求日漸增強。隨著數(shù)據(jù)價值的凸顯,以及信息泄露丑聞的頻發(fā),公眾明顯感覺隱私泄露的弊端遠超過AI本身帶來的便利和智能。

另一方面,企業(yè)將數(shù)據(jù)要素作為核心資產,不愿意在公開透明的環(huán)境下共享流通。因此,人工智能企業(yè)缺少可用數(shù)據(jù)優(yōu)化模型,阻礙了模型精度的進一步提升。

隱私計算技術成為破局之道,可以為AI模型提供多樣化的數(shù)據(jù)資源。

(二)隱私計算對其他產業(yè)的影響

對于那些產生大量數(shù)據(jù),而又迫切需要數(shù)據(jù)交換與融合應用的領域,包括金融、醫(yī)療及政務等領域,隱私計算技術將帶來深入影響。

1、對金融行業(yè)的影響

在金融領域,目前隱私計算主要應用于風控和營銷兩個方面。

在金融機構金融信貸業(yè)務的風控環(huán)節(jié),隱私計算可以幫助金融機構將自身和外部數(shù)據(jù)聯(lián)合起來進行分析,從而有效識別信用等級、降低多頭信貸、欺詐等風險,也有助于信貸及保險等金融產品的精準定價;同樣,內外部多方數(shù)據(jù)的共享融合也有助于提高金融機構的反洗錢甄別能力。

在金融機構的產品營銷環(huán)節(jié),通過應用隱私計算技術,可以利用更多維度的數(shù)據(jù)來為客戶做更加精準的畫像,從而提升精準營銷的效果。

但是,隱私計算對金融領域的影響不止于這兩個方面。隱私計算與區(qū)塊鏈技術結合之后,可以改變更多的金融場景。

比如,在支付場景下,傳統(tǒng)的支付過程中,支付的服務方和中間參與者都可以獲取交易雙方的身份和交易金額,存在嚴重的信息泄露風險。而通過隱私計算技術,可以將交易雙方的敏感信息“隱匿”。這種隱匿支付技術應用在供應鏈金融領域,能夠防止信息泄露帶來價值損失,同時保護了各方隱私,有利于打破供應鏈金融中的信息孤島和互通困難等問題。在跨境支付領域,隱匿支付能夠提高用戶對支付行為的信任,有利于降低跨境支付成本,提升支付效率。[ 微眾銀行《WeDPR方案白皮書》,2020年1月。]

2、對醫(yī)療行業(yè)的影響

目前隱私計算的商業(yè)落地較多地集中在金融行業(yè),而醫(yī)療是非常有潛力的一個領域。醫(yī)療領域聚集了大量的診療數(shù)據(jù),而這些數(shù)據(jù)具有很強的隱私性,是各方實現(xiàn)數(shù)據(jù)共享的一大障礙。隱私計算的切入對于這些數(shù)據(jù)的融合應用在分級診療、醫(yī)療資源共享、醫(yī)藥研究以及輔助診療提高準確度等方面發(fā)揮作用提供了保障,有助于整體上提高公共衛(wèi)生服務水平。

3、對政務領域的影響

以往,各政府機構的信息管理系統(tǒng)建立在部門內部,相互之間缺少橫向聯(lián)通,同時出于數(shù)據(jù)安全及隱私保護,對于數(shù)據(jù)分享相對謹慎,政務數(shù)據(jù)的共享及融合應用與數(shù)字經濟發(fā)展的需求之間仍存距離。

隱私計算的切入,能夠在保護數(shù)據(jù)安全和個人隱私的前提下,實現(xiàn)政府不同部門之間的互聯(lián)互通及數(shù)據(jù)共享,包括司法數(shù)據(jù)、社保數(shù)據(jù)、公積金數(shù)據(jù)、稅務數(shù)據(jù)、水電燃氣數(shù)據(jù)、交通數(shù)據(jù)等等,從而促進政府不同部門的協(xié)同,提高政府的效率以及決策質量。

同時,隱私計算加持下,政務數(shù)據(jù)可以向社會開放,為企業(yè)或學界所用,釋放更多價值;同時,民間的數(shù)據(jù)源也可向政府開放,提高政府在決策以及政務流程等方面的效率。

隱私計算的技術路徑

本章將簡明扼要地為大家梳理隱私計算的概念、主要技術流派和應用標準,以使得大家對隱私計算技術本身有更清晰的認識。

(一)隱私計算的定義

隱私計算是“隱私保護計算”(privacy-preserving computation)的中文簡稱,根據(jù)“大數(shù)據(jù)聯(lián)合國全球工作組”(Bigdata UN Global Working Group)的定義,這是一類技術方案,在處理和分析計算數(shù)據(jù)的過程中能保持數(shù)據(jù)不透明、不泄露、無法被計算方以及其他非授權方獲取。

大數(shù)據(jù)聯(lián)合國全球工作組成立于2014年,由31個成員國和16個國際組織組成。早在2018年,工作組就致力于促進各國多個統(tǒng)計局相互進行敏感大數(shù)據(jù)協(xié)作,是最早研究隱私計算的國際組織之一。2019年,該工作組出臺了《聯(lián)合國隱私保護計算技術手冊》,以方便各國統(tǒng)計局以安全適當方式訪問新的 (敏感)大數(shù)據(jù)源。

需要注意的是,隱私計算不是指某一個具體的技術,而是一個范疇和集合?尚艌(zhí)行環(huán)境、多方安全計算、聯(lián)邦學習等都屬于隱私計算技術。

(二)隱私計算的技術流派

隱私計算技術是在保護數(shù)據(jù)本身不對外泄露的前提下,多個參與方通過協(xié)同對自有數(shù)據(jù)處理、聯(lián)合建模運算、分析輸出結果、挖掘數(shù)據(jù)價值的一類信息技術。  

作為跨學科技術,隱私計算涉及密碼學、機器學習、神經網絡、信息科學,同時可與人工智能、云計算、區(qū)塊鏈分布式網絡等前沿技術融合應用,為數(shù)據(jù)保護和價值融合提供技術可行性。

從技術實現(xiàn)原理來看,隱私計算有兩種分類方式。

一種是將隱私計算技術分為兩個方向——可信硬件和密碼學。可信硬件指可信執(zhí)行環(huán)境(TEE),主要依靠硬件來解決隱私保護問題;密碼學以多方計算、聯(lián)邦學習為代表,主要通過數(shù)學方法來解決隱私保護問題。

另一種是將隱私計算分為三個方向。由于聯(lián)邦學習是密碼學、分布式計算、機器學習三個學科交叉的技術,目前更常見的是三分類法,即分為密碼學、可信硬件和聯(lián)邦學習三個流派。以密碼學為核心技術的隱私計算以多方安全計算、同態(tài)加密為代表;可信硬件以可信執(zhí)行環(huán)境為主導;“聯(lián)邦學習類”泛指國內外衍生出的聯(lián)邦計算、共享學習、知識聯(lián)邦等一系列名詞,是指多個參與方聯(lián)合數(shù)據(jù)源、共同建模、提升模型性能和輸出結果準確性的分布式機器學習。

1、多方安全計算

多方安全計算(Secure  Muti-Party  Computation,MPC)理論,是1982年時任加州大學伯克利分校計算機系教授姚期智為解決一組互不信任的參與方在保護隱私信息以及沒有可信第三方的前提下的協(xié)同計算問題而提出的理論框架。后經Oded Goldreich、Shafi Goldwasser等學者的眾多原始創(chuàng)新工作,多方安全計算逐漸發(fā)展為現(xiàn)代密碼學的一個重要分支。多方安全計算能夠同時確保輸入的隱私性和計算的正確性,在沒有可信第三方的前提下通過數(shù)學理論保證參與計算的各方輸入信息不暴露,而且同時能夠獲得準確的運算結果。

多方安全計算通常借助多種底層密碼框架完成,主要包括不經意傳輸(Oblivious Transfer,OT),混淆電路(Garbled Circuit,GC),秘密共享(Secret Sharing,SS)和同態(tài)加密(Homomorphic Encryption HE)等。
不經意傳輸是指數(shù)據(jù)傳輸方發(fā)出多條信息,而接收方只獲取其中一個。由于傳輸方不確定最終到達的信息是哪一條,接收方也無法得知未獲取的其他信息,從而雙方的數(shù)據(jù)都處于隱私狀態(tài)。

混淆電路是最接近“百萬富翁”解決方式的思路。多方參與者利用計算機編程將輸入的計算任務轉化為布爾值,對輸入的具體數(shù)值加密,因此多方在互相不掌握對方私人信息時,可共同完成計算。

秘密共享是對加密信息的隨機切分過程,將信息的片段分散至多個參與方保管。因此除非超過一定數(shù)量的多方協(xié)同合作,否則無法還原完整的數(shù)據(jù)并進行解密。

由于多方安全計算通常使用前三種框架便能實現(xiàn),同態(tài)加密也被部分人士認作獨立于安全多方計算而基于密碼學的技術。同態(tài)加密指能實現(xiàn)在密文上進行計算后對輸出進行解密,得到的結果和直接對明文計算的結果一致。該概念最早在1978年由 Ron Rivest、 Leonard Adleman和 Michael L. Dertouzo提出。按照支持的功能劃分,目前大致可以分為全同態(tài)加密和部分同態(tài)加密。全同態(tài)加密可以在加密態(tài)密文的狀態(tài)下對數(shù)據(jù)進行各種運算,而部分同態(tài)加密只能對密文進行無限次同態(tài)加法或無限次同態(tài)乘法操作。

多方安全計算技術通用性高、準確性高,行業(yè)內也肯定了算法的理論價值和應用前景。即使密碼和開發(fā)的難度導致其性能中等,密碼學領域也有一半以上的學者研究多方安全計算的相關話題。作為發(fā)展歷史最長、相對更成熟的技術,多方安全計算技術成為了各科技大廠和新秀的技術路徑之一。

2、可信執(zhí)行環(huán)境(TEE)

可信執(zhí)行環(huán)境作為易開發(fā)、高性能的隱私計算技術,與硬件提供方存在強依賴關系。其實踐路徑表現(xiàn)為:在CPU內劃分出獨立于操作系統(tǒng)的、可信的、隔離的機密空間。由于數(shù)據(jù)處理在可信空間內進行,數(shù)據(jù)的隱私性依賴可信硬件的實現(xiàn)。

3、聯(lián)邦學習

聯(lián)邦學習(Federated Learning)從技術層面上涉及隱私保護、機器學習和分布式領域,能有效地滿足數(shù)據(jù)在不出本地的情況下,實現(xiàn)共同建模,提升模型的效果。

根據(jù)特征空間和樣本ID空間的不同,聯(lián)邦學習分為橫向聯(lián)邦、縱向聯(lián)邦和聯(lián)邦遷移學習。

橫向聯(lián)邦學習適用于特征重合較多、樣本重合較少的聯(lián)合計算場景。但通過構建聯(lián)邦生態(tài),參與者可以聚合更多的數(shù)據(jù)樣本,從而解決單邊建模數(shù)據(jù)不足的情況。例如,某銀行在不同區(qū)域設立分行,由于商業(yè)模式相同,數(shù)據(jù)擁有重合度較高的特征,但各行服務不同地區(qū)的客戶,樣本重合較少,這種情況就可以應用橫向聯(lián)邦學習。

縱向聯(lián)邦學習適用于樣本重合較多、特征重合較少的聯(lián)合計算場景。通過建立聯(lián)邦生態(tài),參與者可以豐富樣本特征,實現(xiàn)更精準的樣本描述。例如,服務同一群體的銀行與電商平臺就可以采用縱向聯(lián)邦學習。

聯(lián)邦遷移學習是對橫向聯(lián)邦學習和縱向聯(lián)邦學習的補充,適用于特征、樣本重合均少的場景。例如,不同地區(qū)的銀行和商場之間,用戶空間交叉較少,并且特征空間基本無重疊。

聯(lián)邦學習在國內隱私計算賽道得到了廣泛的應用,如微眾銀行FATE開源平臺,平安科技“蜂巢”、百度開源框架PaddleFL、字節(jié)跳動Fedlearner平臺。此外,一些隱私計算創(chuàng)業(yè)公司也在通過聯(lián)邦學習技術的探索與應用,積極入局,如星云Clustar。

(三)隱私計算的技術標準[ 這里,階段的劃分參考了富數(shù)科技合伙人黃奉孝的文章《說說國內隱私計算行業(yè)標準的三個階段》]

按照標準內容和參與機構,國內的隱私計算標準大致能夠分成三個階段。從理論層面、測評層面到互聯(lián)互通層面,三個階段下隱私計算標準的實用性和覆蓋范圍逐漸提高。隱私計算標準的參與和發(fā)布機構由企業(yè)和行業(yè)機構也逐漸轉向國家和國際層面的機構。值得注意的是,隱私計算相關的技術標準仍在制定中。

1、第一階段

第一個階段標準在定義和框架上給出了解釋,這個階段更加關注理論,主要滿足科研性實驗性課題。此外,參與制定標準的機構主要為企業(yè)和行業(yè)機構。

2、第二階段

第二階段的標準在性能和工程化安全方面給出了測評標準,讓隱私計算從理論框架層面過渡到支持測評的實踐方面,從企業(yè)實踐方面提升了隱私計算標準的可用性。其中,“可信隱私計算”產品測評體系作為對隱私計算產品的功能和性能進行評測的標準,受到廣泛的認可。

3、第三階段

第三階段的標準強調互聯(lián)互通,主要針對隱私保護措施帶來的數(shù)據(jù)孤島問題。這個階段還伴隨著國際和國家層面機構參與到隱私計算的標準制定。其中,《隱私保護機器學習技術框架》是首次通過隱私計算技術領域的國際標準;《隱私保護的數(shù)據(jù)互聯(lián)互通協(xié)議規(guī)范》是隱私計算互聯(lián)互通的首個國家標準。

<上一頁  1  2  3  4  5  6  7  下一頁>  
聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關注公眾號
OFweek人工智能網
獲取更多精彩內容
文章糾錯
x
*文字標題:
*糾錯內容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網安備 44030502002758號