應用

技術

物聯網世界 >> 物聯網新聞 >> 物聯網熱點新聞
企業(yè)注冊個人注冊登錄

降低80%的圖像對抗風險 螞蟻集團升級基于可信AI技術的內容安全解決方案

2021-12-16 14:21 TechWeb.com.cn

導讀:本次比賽共有1635支參賽隊伍參加,來自螞蟻集團的TitanShield Team(titanshield2)斬獲圖像表征賽道冠軍。

12月16日消息,日前,由國際人工智能頂會NeurIPS 與 Facebook AI聯合舉辦的圖像相似匹配競賽ISC2021落下帷幕。本次比賽共有1635支參賽隊伍參加,來自螞蟻集團的TitanShield Team(titanshield2)斬獲圖像表征賽道冠軍。

據悉,此次奪冠團隊采用的技術方案是由螞蟻集團獨立自研的、“基于特征兼容自監(jiān)督學習框架”的預訓練模型,能夠針對性地解決內容安全風控領域常見的敏感信息更迭速度快、風控模型訓練不及時等問題。作為可信AI技術研究及應用中的一環(huán),該技術上線后可降低80%的圖像對抗風險,將有助于極大地提升在內容安全等相關應用領域中的AI魯棒性(Robustness)。

作為人工智能下一階段快速發(fā)展的瓶頸所在,安全和可信性決定了人工智能未來三十年的發(fā)展速度和應用深度;而AI的魯棒性,即抗打擊能力及穩(wěn)定性,則成為了人工智能的第一場大考。“如果抵擋不住攻擊,識別結果不可信,那么AI模型不僅失去了它存在的意義,還會成為另一個風險敞口”,螞蟻集團資深技術專家博山表示。

據悉,此次比賽中,奪冠團隊所采用的“基于特征兼容自監(jiān)督學習框架”的預訓練模型,在圖像識別領域,極大地緩解和應對了上述問題。首先,該技術能夠基于公開數據集進行預訓練,幫助AI提前完成同類風險預演。其次,在傳統(tǒng)的AI識別中,模型識別依賴人工投喂標注了“特征”的樣本;例如,模型在識別熊貓圖片前,需要先“學習”熊貓的特征——“眼部有黑色毛發(fā)”、“常與竹子一同出現”等等。而借助“自監(jiān)督學習”技術,該模型可以通過自主學習抓取“特征”,降低70%標注量,訓練時間也從原本的一周縮短至3天。同時,創(chuàng)新的“特征兼容”方案,能夠實現在兩個業(yè)務場景或兩家企業(yè)間,借助“特征”信息的兼容共享,實現風險聯防。

據悉,該模型及相關技術作為螞蟻集團內容安全風控決策引擎的重要組成部分,目前已在支付寶內容安全場景中全面上線,可整體降低80%的圖像對抗風險。