“螞蟻集團(tuán)基于可信AI技術(shù)自研的、IMAGE智能風(fēng)控體系中的“E”——“端云協(xié)同風(fēng)控”能力已經(jīng)覆蓋了99%的業(yè)務(wù)場(chǎng)景?！蔽浵伡瘓F(tuán)機(jī)器智能部總經(jīng)理、螞蟻安全實(shí)驗(yàn)室學(xué)術(shù)帶頭人顧鳴對(duì)外宣布。

　螞蟻集團(tuán)機(jī)器智能部總經(jīng)理顧鳴分享

　   顧鳴就螞蟻集團(tuán)在可信AI技術(shù)領(lǐng)域的研究實(shí)踐“IMAGE智能風(fēng)控體系”做了專(zhuān)題報(bào)告。

　　他在報(bào)告中指出，“互聯(lián)網(wǎng)金融風(fēng)控場(chǎng)景是天然的對(duì)抗博弈場(chǎng)，支付寶從未停止過(guò)與黑產(chǎn)及黑產(chǎn)背后的AI做斗爭(zhēng)”。在內(nèi)容安全、反洗錢(qián)、反欺詐等領(lǐng)域中，螞蟻集團(tuán)對(duì)AI模型決策過(guò)程及結(jié)果的可解釋性要求、對(duì)抵御黑產(chǎn)攻擊的魯棒性（Robustness）要求，已經(jīng)達(dá)到了空前的高度。與此同時(shí)，隨著隱私保護(hù)和公平性訴求越來(lái)越成為社會(huì)發(fā)展中的主流思潮，相關(guān)領(lǐng)域的技術(shù)研發(fā)已經(jīng)不僅僅停留在企業(yè)社會(huì)責(zé)任層面，而成為了企業(yè)發(fā)展的生命線。

　　盡管可信AI技術(shù)體系在整個(gè)螞蟻集團(tuán)生態(tài)版圖中的應(yīng)用極為廣泛，但作為支付寶最核心的智能風(fēng)控中樞，“IMAGE智能風(fēng)控體系”是螞蟻集團(tuán)基于可信AI技術(shù)體系最完整的應(yīng)用和實(shí)踐案例，全面踐行著隱私保護(hù)、可解釋性、魯棒性和公平性的技術(shù)理念。

　　以“IMAGE”中的“E”端云協(xié)同風(fēng)控為例，該技術(shù)通過(guò)在用戶(hù)的智能終端上部署安全能力，實(shí)現(xiàn)隱私數(shù)據(jù)本地計(jì)算，在保護(hù)用戶(hù)隱私權(quán)益的前提下，為用戶(hù)提供數(shù)據(jù)及資金安全的有效防御。目前，該技術(shù)已經(jīng)在支付寶99%的場(chǎng)景中上線。在剛剛過(guò)去的雙十一中，支付寶資損僅為百余元，資損率創(chuàng)下歷史新低；其中，端云協(xié)同風(fēng)控能力覆蓋交易筆數(shù)近九成，立下汗馬功勞。

　　隱私保護(hù)的第三視角：端云協(xié)同

　　著名的人工智能研究學(xué)者吳恩達(dá)曾指出“AI=Data+Code”（人工智能=數(shù)據(jù)+代碼）。數(shù)據(jù)一直是人工智能發(fā)展中不可回避的話題。數(shù)據(jù)的使用，推動(dòng)著機(jī)器學(xué)習(xí)等人工智能技術(shù)的迅速發(fā)展、為人類(lèi)提供了優(yōu)質(zhì)服務(wù)和決策支持，但數(shù)據(jù)的不當(dāng)使用也引發(fā)了社會(huì)各界對(duì)隱私保護(hù)的擔(dān)憂。

　　為促進(jìn)人工智能技術(shù)的有序、良性發(fā)展，一方面，學(xué)術(shù)界和工業(yè)界積極研發(fā)了包括“多方安全計(jì)算”在內(nèi)的、多種隱私計(jì)算相關(guān)技術(shù)，以幫助人工智能實(shí)現(xiàn)數(shù)據(jù)的“可用而不可見(jiàn)”，從而實(shí)現(xiàn)對(duì)數(shù)據(jù)的合理、合法、合規(guī)使用。另一方面，研究者們從未放棄對(duì)人工智能“如何減少數(shù)據(jù)依賴(lài)”的研究。

　　顧鳴在分享中指出，“IMAGE”智能風(fēng)控系統(tǒng)中的“E”——“端云協(xié)同風(fēng)控”（Edge to Cloud），則是隱私保護(hù)中的第三視角?！岸嗽茀f(xié)同風(fēng)控”將需求隱私數(shù)據(jù)計(jì)算在用戶(hù)智能終端（如手機(jī)）中進(jìn)行計(jì)算，將不含隱私信息的決策結(jié)果輸送到云端，以實(shí)現(xiàn)“端云協(xié)同”的風(fēng)控保障。“可信AI中的隱私保護(hù)是一個(gè)比隱私計(jì)算更大的概念，持續(xù)創(chuàng)新視角和解決方案，是踐行隱私保護(hù)的重點(diǎn)。將數(shù)據(jù)放在“端”上計(jì)算，卻不影響“云”提供的安全保障服務(wù)，這是對(duì)用戶(hù)隱私最有效的保護(hù)。”顧鳴強(qiáng)調(diào)。

　　目標(biāo)與實(shí)現(xiàn)之間 隔著“八十一難”

　　其實(shí)早在2015年，螞蟻集團(tuán)內(nèi)部就已經(jīng)啟動(dòng)了首個(gè)“端特征”的研究項(xiàng)目，邁出了端云協(xié)同風(fēng)控研究的第一步，但研發(fā)過(guò)程面臨著諸多挑戰(zhàn)。

　　例如，最初在智能終端（如手機(jī)）上，機(jī)器學(xué)習(xí)技術(shù)的研發(fā)及應(yīng)用并不成熟，需要技術(shù)團(tuán)隊(duì)打破傳統(tǒng)的建模方式，來(lái)解決諸如“端數(shù)據(jù)表征”等技術(shù)問(wèn)題。同時(shí)，由于智能終端之間的巨大差異，能在蘋(píng)果手機(jī)上跑的模型，低端機(jī)卻未必跑得了。螞蟻安全實(shí)驗(yàn)室的技術(shù)團(tuán)隊(duì)就此提出了“動(dòng)態(tài)千機(jī)千模”的方案，通過(guò)對(duì)模型的有效簡(jiǎn)化和適配，選擇匹配用戶(hù)智能終端的風(fēng)控模型下載計(jì)算；2021年創(chuàng)新了“AI算力網(wǎng)絡(luò)”，以實(shí)現(xiàn)“端”和“云”之間算力的全局化調(diào)配。

　　解決了計(jì)算能力的問(wèn)題，還需要應(yīng)對(duì)安全挑戰(zhàn)。畢竟，風(fēng)控的核心是保護(hù)用戶(hù)的數(shù)據(jù)及資金安全。在端云協(xié)同的過(guò)程中，模型和信息的加密在智能終端上、決策也在智能終端上，一旦“端”被攻破，如果“云”不能及時(shí)獲知，風(fēng)險(xiǎn)控制將無(wú)從談起。

　　自2018端云協(xié)同風(fēng)控上線以來(lái)，不僅為用戶(hù)提供了基于隱私保護(hù)的安全防御能力；也幫助支付寶在大促等流量高并發(fā)期，極大地緩解了風(fēng)控計(jì)算壓力——計(jì)算壓力分流至“端”；更為“云”上風(fēng)控模型提供了更大的響應(yīng)和計(jì)算空間，為進(jìn)一步降低資損率，提供了可能，可謂“三贏”。

　顧鳴分享端云協(xié)同風(fēng)控架構(gòu)圖

　　起于應(yīng)用、興于應(yīng)用的可信AI

　　麥肯錫相關(guān)報(bào)告曾指出，人工智能技術(shù)的快速發(fā)展和應(yīng)用落地，為人類(lèi)社會(huì)帶來(lái)的生產(chǎn)力變革已經(jīng)超越了歷次科技革命。而人工智能在推動(dòng)和改變?nèi)祟?lèi)社會(huì)的同時(shí)，其安全和可信性也進(jìn)一步引發(fā)了人們對(duì)AI的擔(dān)憂。

　　顧鳴強(qiáng)調(diào)，“作為制約AI技術(shù)發(fā)展的瓶頸，安全和可信性研究無(wú)疑將成為未來(lái)三十年人工智能技術(shù)的關(guān)鍵環(huán)節(jié)?！卑殡S著人工智能的廣泛應(yīng)用而興起的“可信”問(wèn)題，將是人工智能發(fā)展中突破瓶頸的“應(yīng)用型命題”，只有堅(jiān)持應(yīng)用探索、充分實(shí)踐，才能將技術(shù)理念真正變成科技發(fā)展的護(hù)城河。