隨著人工智能技術(shù)在金融場景的應(yīng)用不斷深化，數(shù)據(jù)、算法與應(yīng)用層的安全可控問題逐漸凸顯。
6月3日，在北京智源大會“AI安全與產(chǎn)業(yè)治理”論壇上，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸表示，包含知識、數(shù)據(jù)、算法和算力四個(gè)要素的“第三代人工智能”，為發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)提供了可能性。
金融業(yè)的AI安全問題
對于金融行業(yè)來說，人工智能的安全問題尤其需要警惕。
清華大學(xué)計(jì)算機(jī)系教授、瑞萊智慧首席科學(xué)家朱軍也指出，目前人工智能算法的安全性存在嚴(yán)重不足，為智能技術(shù)的應(yīng)用帶來較大隱患。
當(dāng)前，金融機(jī)構(gòu)也在大力投入人工智能領(lǐng)域的研發(fā)，在中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任黃炳看來，這背后的一個(gè)重要原因正是普惠金融的發(fā)展。
黃炳指出，現(xiàn)在越來越多的數(shù)據(jù)通過線上渠道采集而來，如何對數(shù)據(jù)進(jìn)行精準(zhǔn)識別與分類成為重要問題。另外，金融業(yè)還面對算法的可解釋性問題。
“長期以來，金融機(jī)構(gòu)的風(fēng)控模型就是簡單的邏輯回歸。而隨著90后、00后步入社會，如何將海量的數(shù)據(jù)融合從而提供更好的智能金融服務(wù)，這是金融機(jī)構(gòu)需要思考的。”黃炳這樣說道。
瑞萊智慧CEO田天對《華夏時(shí)報(bào)》記者表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質(zhì)量發(fā)展的轉(zhuǎn)變。人工智能已經(jīng)突破傳統(tǒng)的感知智能階段，進(jìn)入到更加高階的認(rèn)知決策階段，人工智能已開始接近一些核心的智能問題。
田天指出，金融等更高價(jià)值場景的AI應(yīng)用需求不斷增加，安全性的重要性也大大提升。但由于傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，導(dǎo)致人工智能在這些場景的應(yīng)用存在局限。
第三代人工智能備受關(guān)注
張鈸指出，人工智能的安全可控問題要從技術(shù)層面來解決。
據(jù)黃炳介紹道，工行在現(xiàn)有人工智能技術(shù)體系基礎(chǔ)上，圍繞“軟硬件運(yùn)營環(huán)境可信、數(shù)據(jù)隱私保護(hù)、算法模型安全”三大核心能力建設(shè)出金融領(lǐng)域的人工智能安全可信能力。
他還強(qiáng)調(diào)，AI安全是AI大規(guī)模應(yīng)用的前提和必備條件，同時(shí)AI可信能力必須是全棧且覆蓋模型全生命周期。通過安全可信技術(shù)的研究和突破，提升規(guī)?；疉I生產(chǎn)部署的安全可信支撐能力，可以增強(qiáng)多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟(jì)社會提供更高效率、更低成本、更低門檻的普惠金融服務(wù)。
關(guān)于AI在金融風(fēng)控中的應(yīng)用，建信金融科技有限公司創(chuàng)新實(shí)驗(yàn)室總經(jīng)理王雪從實(shí)操層面進(jìn)行了詳解。
據(jù)王雪介紹，客戶在銀行申請信用貸款時(shí)首先要進(jìn)行測額，這一環(huán)節(jié)的難點(diǎn)在于，如何測度客戶的無形資產(chǎn)價(jià)值，即預(yù)測客戶在未來幾年內(nèi)的個(gè)人資產(chǎn)總量。
建信金科采用包括AI、經(jīng)濟(jì)學(xué)理論、資本理論、認(rèn)知行為理論在內(nèi)的跨學(xué)科方法，利用人工智能的機(jī)器學(xué)習(xí)算法提煉出數(shù)據(jù)驅(qū)動的金融素養(yǎng)標(biāo)簽。
另外，在數(shù)據(jù)隱私保護(hù)方面，建信金科還構(gòu)建了企業(yè)級的隱私保護(hù)平臺。
關(guān)于人工智能的安全可控，田天認(rèn)為，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法可靠性。“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競爭力。
會上，清華大學(xué)聯(lián)合阿里安全、瑞萊智慧發(fā)布了首個(gè)公平、全面的AI攻防對抗基準(zhǔn)平臺，該平臺可實(shí)現(xiàn)對AI防御和攻擊算法的自動化評估。
“安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐。”田天這樣說道。
相關(guān)研究報(bào)告顯示，到2030年全球人工智能市場規(guī)模預(yù)計(jì)將達(dá)到15.7萬億美元，約合人民幣104萬元。“深度智能”時(shí)代正將加速到來，人工智能在金融領(lǐng)域的應(yīng)用不斷拓展。
智能金融的未來充滿想象空間，但要實(shí)現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)。第三代人工智能通過釋放“數(shù)據(jù)、知識、算法、算力”的全新維度，為實(shí)現(xiàn)安全可控的新一代人工智能提供可能，有望重塑金融行業(yè)價(jià)值。
