記者獲悉，近日螞蟻集團(tuán)基于可信AI技術(shù)研發(fā)的反欺詐模型，正式通過國家金融科技測評中心(銀行卡檢測中心)的技術(shù)測評，成為業(yè)內(nèi)首個完成國家級金融權(quán)威機(jī)構(gòu)測評的人工智能算法金融應(yīng)用。

該次送檢的模型名為“欺詐風(fēng)險識別模型”及其相關(guān)系統(tǒng)，是螞蟻集團(tuán)基于人工智能前沿技術(shù)開發(fā)，能夠自動貼合用戶行為特征，自動預(yù)測分析交易支付中的異常行為及欺詐風(fēng)險程度，并根據(jù)不同的風(fēng)險分值，實時輸出彈窗提示、問卷答題、語音交互、叫醒熱線等不同的交互勸阻手段，確保支付寶用戶的資金及交易安全，并將對用戶的干擾降到最低。

500)this.width=500\" align=\"center\" hspace=10 vspace=10 alt=\"螞蟻集團(tuán)基于可信AI的反欺詐模型通過國家級金融權(quán)威機(jī)構(gòu)測評 \">


國家金融科技測評中心是中國人民銀行總行批準(zhǔn)成立的中國金融行業(yè)權(quán)威檢測機(jī)構(gòu)，近期依據(jù)中國人民銀行發(fā)布的《人工智能算法金融應(yīng)用評價規(guī)范》，面向全社會開放“人工智能算法金融應(yīng)用”的檢測工作，從算法對多種攻擊的防范能力、建模全流程的可解釋性、算法精準(zhǔn)性和性能等近百個項目評價算法是否滿足金融應(yīng)用要求。

近年來，人工智能作為全球關(guān)注的新興技術(shù)，廣泛應(yīng)用到風(fēng)控反欺詐、身份核驗等金融科技場景，但伴隨行業(yè)智能化發(fā)展，算法黑箱、安全問題等也不斷出現(xiàn)。今年3月，中國人民銀行發(fā)布并實施《人工智能算法金融應(yīng)用評價規(guī)范》，首次對人工智能的安全可信應(yīng)用明確了行業(yè)標(biāo)準(zhǔn)，要求應(yīng)用AI算法需滿足安全性、可解釋性等基本要求。

據(jù)了解，螞蟻集團(tuán)此次送檢的“欺詐風(fēng)險識別模型”及其相關(guān)系統(tǒng)，在安全性、精準(zhǔn)性和性能等各項檢測中均以高標(biāo)準(zhǔn)獲得了通過，在算法可解釋性方面的檢測表現(xiàn)較為突出。

中國工程院院士陳左寧曾表示，當(dāng)前，對于技術(shù)的需求就是將可解釋性融入軟件環(huán)境中，第一是為現(xiàn)有軟件框架增加可解釋技術(shù)接口，第二是將“人-AI”系統(tǒng)結(jié)合，把人對事情的解釋跟整個模型融合，提升模型的可調(diào)式性和透明度。

據(jù)了解，這套“螞蟻反欺詐智能風(fēng)險感知與響應(yīng)系統(tǒng)”，基于可信AI技術(shù)，借助“圖神經(jīng)網(wǎng)絡(luò)”、“博弈攻防”、“交互式主動風(fēng)控”等創(chuàng)新應(yīng)用，可實現(xiàn)“信息泄露防治-風(fēng)險預(yù)警分析-異常操作捕捉-風(fēng)險交易攔截-線下精準(zhǔn)打擊”全鏈路的欺詐防控和追溯可視，屬于行業(yè)首創(chuàng)，日均成功保護(hù)潛在被騙資金1500萬，極大遏制平臺電詐發(fā)生率。

螞蟻集團(tuán)自2015年起投入可信AI技術(shù)的研究，2016年全面啟動人工智能風(fēng)控防御戰(zhàn)略，目前已在反欺詐、反洗錢、反盜用、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)在內(nèi)的多個場景落地，并形成了新一代“IMAGE風(fēng)控體系”，支撐全風(fēng)險域的防控。