深藍(lán)媒體智庫(kù)沙龍｜“用魔法打敗魔法”：AI原生困局的“自救”密碼

　　金融領(lǐng)域合規(guī)機(jī)制建設(shè)已上升為驅(qū)動(dòng)行業(yè)持續(xù)健康發(fā)展的核心命題。7月31日，由北京商報(bào)社、深藍(lán)媒體智庫(kù)主辦的“AI金融雙刃劍：從安全底線尋找轉(zhuǎn)型機(jī)遇”沙龍?jiān)谏虾３晒εe辦。作為此次沙龍的重磅環(huán)節(jié)之一，現(xiàn)場(chǎng)圓桌對(duì)話圍繞“AI算法備案時(shí)代的金融合規(guī)路徑”展開(kāi)。多位行業(yè)專(zhuān)家和企業(yè)嘉賓對(duì)AI金融的未來(lái)發(fā)展趨勢(shì)進(jìn)行了洞察和展望。

　　與會(huì)嘉賓認(rèn)為，金融AI合規(guī)的本質(zhì)是在監(jiān)管剛性要求與技術(shù)可行性之間尋找動(dòng)態(tài)平衡點(diǎn)。在人工智能技術(shù)深度滲透金融服務(wù)的背景下，如何通過(guò)制度設(shè)計(jì)與技術(shù)管控構(gòu)建合規(guī)體系，既滿足監(jiān)管要求又保障創(chuàng)新活力，成為當(dāng)前金融科技發(fā)展中亟待突破的關(guān)鍵課題。

　　從被動(dòng)合規(guī)到主動(dòng)治理

　　在AI算法備案制度的框架下，金融領(lǐng)域業(yè)務(wù)算法，如智能投顧、信用評(píng)估、保險(xiǎn)定價(jià)等，進(jìn)行合規(guī)改造與備案準(zhǔn)備時(shí)，面臨多重系統(tǒng)性挑戰(zhàn)。

　　具體而言，金融AI算法備案的核心是穿透算法黑箱，實(shí)現(xiàn)可審計(jì)、可干預(yù)的透明決策。企業(yè)需以“主動(dòng)合規(guī)”重構(gòu)技術(shù)倫理。

　　星火智云（上海）科技發(fā)展有限公司（以下簡(jiǎn)稱(chēng)“星火智云”）副總裁羅方舟表示，為應(yīng)對(duì)監(jiān)管環(huán)境變化，公司核心策略是系統(tǒng)采集監(jiān)管文本、圖片、視頻及銷(xiāo)售流程意見(jiàn)，將其轉(zhuǎn)化為AI學(xué)習(xí)的底層知識(shí)庫(kù)。通過(guò)類(lèi)似“基礎(chǔ)必修課”的規(guī)劃，將正向準(zhǔn)則植入AI訓(xùn)練流程，并持續(xù)豐富數(shù)據(jù)來(lái)源。例如，監(jiān)管對(duì)營(yíng)銷(xiāo)內(nèi)容的指導(dǎo)意見(jiàn)、保險(xiǎn)公司提供的銷(xiāo)售內(nèi)容文件等，均被納入知識(shí)庫(kù)訓(xùn)練AI，形成“AI研修課”以完善合規(guī)能力，為未來(lái)AI在業(yè)務(wù)中大規(guī)模應(yīng)用奠定基礎(chǔ)。

　　據(jù)了解，作為一家互聯(lián)網(wǎng)營(yíng)銷(xiāo)企業(yè)，星火智云自2018年起開(kāi)展互聯(lián)網(wǎng)保險(xiǎn)業(yè)務(wù)。企業(yè)經(jīng)營(yíng)重點(diǎn)之一是關(guān)注安全問(wèn)題，從信息流投放到客戶運(yùn)營(yíng)、售后環(huán)節(jié)，自2019年起已大規(guī)模應(yīng)用AI技術(shù)。

　　“具體應(yīng)用場(chǎng)景包括內(nèi)容生產(chǎn)等?！绷_方舟表示，每日需生成大量?jī)?nèi)容，構(gòu)建包含數(shù)字人、短視頻混剪等技術(shù)的完整內(nèi)容生產(chǎn)線。在此過(guò)程中，監(jiān)管對(duì)通過(guò)內(nèi)容引導(dǎo)用戶進(jìn)行保險(xiǎn)消費(fèi)的約束日益清晰，尤其關(guān)注保險(xiǎn)產(chǎn)品介紹邊界及灰色地帶的合規(guī)性，各流量平臺(tái)對(duì)相關(guān)內(nèi)容的約束界限也逐漸明確。

　　“大模型本身無(wú)善惡之分，關(guān)鍵在于如何使用?！鄙裰萑谛旁瓶萍脊煞萦邢薰狙邪l(fā)技術(shù)中心總經(jīng)理郭學(xué)超表示，當(dāng)前金融市場(chǎng)呈現(xiàn)“冰火兩重天”態(tài)勢(shì)：表面上看熱度較高，各類(lèi)概念頻出；但實(shí)際成熟應(yīng)用模式較少。通過(guò)原有算法備案是一種方式，客戶更關(guān)注模式的可靠性與準(zhǔn)確性。此外，合規(guī)性至關(guān)重要，備案或許是很好的解決路徑。

　　AI領(lǐng)域的特殊性體現(xiàn)在AI面客服務(wù)尚未被允許等方面。郭學(xué)超也認(rèn)為，金融行業(yè)與其他行業(yè)一樣，必須在合規(guī)框架內(nèi)開(kāi)展業(yè)務(wù)，不容許出錯(cuò)。目前公司主要通過(guò)應(yīng)用端到端大模型、固化流程、結(jié)合小模型等方式規(guī)避合規(guī)困境，通過(guò)技術(shù)手段解決合規(guī)問(wèn)題。

　　細(xì)分領(lǐng)域共探解題思路

　　需要關(guān)注的是，從智能投顧、信用評(píng)估到保險(xiǎn)定價(jià)，不同細(xì)分領(lǐng)域的風(fēng)險(xiǎn)特征與影響范圍存在顯著差異，備案策略需在統(tǒng)一框架下實(shí)現(xiàn)精準(zhǔn)適配。

　　“基于不同金融細(xì)分領(lǐng)域應(yīng)用AI算法的風(fēng)險(xiǎn)特征和影響范圍，從監(jiān)管備案及應(yīng)用層面來(lái)看，行業(yè)方向已較為明確?！鄙虾＝鹑谂c發(fā)展實(shí)驗(yàn)室特聘研究員潘曉俊表示，過(guò)去可從最合規(guī)的路徑解決問(wèn)題并控制風(fēng)險(xiǎn)，關(guān)于后續(xù)發(fā)展，可從簡(jiǎn)單、可控的場(chǎng)景逐步深入。例如，監(jiān)管對(duì)模型專(zhuān)業(yè)性的要求，不僅涉及技術(shù)專(zhuān)業(yè)度，更需關(guān)注業(yè)務(wù)效果的專(zhuān)業(yè)性。若告知監(jiān)管，當(dāng)前應(yīng)用僅聚焦于簡(jiǎn)單的圖片、文字或視頻生成，或可更易被接受。

　　潘曉俊的另一個(gè)觀點(diǎn)是“用魔法打敗魔法”。他認(rèn)為，近期行業(yè)一大痛點(diǎn)是電信外呼受監(jiān)管影響較大。從監(jiān)管角度看，外呼為何被管控？因其可能影響客戶體驗(yàn)。若明確告知監(jiān)管，我們通過(guò)AI接口優(yōu)化外呼形式，既可減少對(duì)客戶的騷擾，又能提升效率，這或許是很好的應(yīng)用方向。畢竟外呼是當(dāng)前一大痛點(diǎn)，一旦被投訴，短期內(nèi)可能無(wú)法使用，尤其是營(yíng)銷(xiāo)短信等，而新技術(shù)若具備可解釋性與可控性，或可規(guī)避此類(lèi)問(wèn)題。

　　中誠(chéng)信信用分析（北京）有限公司信評(píng)總監(jiān)曹閏在圓桌環(huán)節(jié)表示，從監(jiān)管層面而言，“幻覺(jué)”問(wèn)題是需要重點(diǎn)考慮的。在應(yīng)用AI進(jìn)行輸出時(shí)，始終要保持更為謹(jǐn)慎的態(tài)度。然而，目前的主要難點(diǎn)在于，AI學(xué)習(xí)過(guò)程中收集的數(shù)據(jù)來(lái)自多方，這些數(shù)據(jù)的隱私性和密集性存在差異，且缺乏完全明確的監(jiān)管規(guī)定。

　　基于此，曹閏認(rèn)為，若自行制定數(shù)據(jù)使用規(guī)則，也可能面臨監(jiān)管的挑戰(zhàn)。因此，數(shù)據(jù)的保密程度及如何合規(guī)利用這些數(shù)據(jù)，成為較大的難題。公司當(dāng)前的應(yīng)對(duì)措施是將數(shù)據(jù)拆分為內(nèi)部數(shù)據(jù)和較為敏感的數(shù)據(jù)兩類(lèi)，進(jìn)行了一定的努力。但后續(xù)拆分是否符合監(jiān)管要求以及輸出是否能夠滿足合規(guī)性，仍需各方進(jìn)行交流。“我們也相信，隨著AI未來(lái)的升級(jí)和迭代，目前面臨的問(wèn)題將不再那么嚴(yán)峻，但仍需深度探索?！?/p>

　　作為一家面向C端的企業(yè)，羅方舟表示，雖然在算法備案方面規(guī)模較小，但同樣面臨顯著挑戰(zhàn)。當(dāng)前流量平臺(tái)核心收入依賴(lài)廣告收入，星火智云需通過(guò)算法精準(zhǔn)挖掘目標(biāo)客戶，如保險(xiǎn)領(lǐng)域高價(jià)值用戶，而平臺(tái)傾向于將核心用戶打包售賣(mài)，排斥低價(jià)值用戶，由此引發(fā)流量場(chǎng)景的“算法對(duì)抗”——雙方通過(guò)數(shù)據(jù)和算法能力爭(zhēng)奪目標(biāo)用戶。在此過(guò)程中，數(shù)據(jù)安全問(wèn)題尤為突出。平臺(tái)對(duì)用戶數(shù)據(jù)的采集，包括App使用行為、聊天內(nèi)容等較為全面，而公司作為保險(xiǎn)數(shù)據(jù)獲取方，需在算法中明確數(shù)據(jù)使用邊界：哪些數(shù)據(jù)可合法使用、哪些不可，并確保數(shù)據(jù)存儲(chǔ)、應(yīng)用及衍生數(shù)據(jù)處理的合規(guī)性。依托支付通道與監(jiān)管部門(mén)的溝通，公司需驗(yàn)證數(shù)據(jù)流的安全性、合規(guī)性及算法可控性，以實(shí)現(xiàn)監(jiān)管認(rèn)可的合規(guī)狀態(tài)。

（文章來(lái)源：北京商報(bào)）

(原標(biāo)題：深藍(lán)媒體智庫(kù)沙龍｜“用魔法打敗魔法”：AI原生困局的“自救”密碼)

(責(zé)任編輯：6)