21世紀經(jīng)濟報道記者 邊萬莉 北京報道  ChatGPT帶火了一系列GPT產(chǎn)品，AIGC（AI generated content，生成式AI）技術(shù)逐步走向?qū)嵱?。根?jù)奇富科技對104家中小機構(gòu)的訪談，64%的受訪金融機構(gòu)認為，GPT產(chǎn)品的能力將有助于提煉信息、整合材料、生成報告，減輕金融機構(gòu)內(nèi)部繁重的案頭工作。

ChatGPT的面世推動人工智能發(fā)展史走到了奇點，但不得不承認的是，同時也帶來了風(fēng)險和挑戰(zhàn)。近期包頭警方公布的一則詐騙案例，正是利用“AI換臉”實施的詐騙，為各行各業(yè)都敲響了安全警鐘。

“我們迫切需要重構(gòu)人工智能信任，在技術(shù)上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護數(shù)字經(jīng)濟時代的國家安全與金融業(yè)安全。”中國銀行原行長李禮輝在近日“第八屆融城杯金融科技創(chuàng)新案例評選”啟動儀式上發(fā)言時如是說。

實際上，應(yīng)對人工智能技術(shù)帶來的威脅，不僅僅是要依靠制度，更是需要技術(shù)公司、監(jiān)管部門的共同努力。此外，個人也應(yīng)當(dāng)樹立信息安全意識，謹防上當(dāng)受騙。

金融機構(gòu)對GPT產(chǎn)品的需求方向

ChatGPT熱度稍減，但關(guān)注度從未消失。如果將ChatGPT應(yīng)用金融行業(yè)，會有哪些可能性呢？此前，21世紀經(jīng)濟報道記者向金融從業(yè)人員發(fā)起采訪后發(fā)現(xiàn)，答案主要集中在以下幾個方面：寫企業(yè)宣傳稿、寫研報、做客服、做催收、營銷、專業(yè)分析等。

前不久，奇富科技就金融機構(gòu)對于GPT產(chǎn)品的需求，對104家中小金融機構(gòu)進行訪談。92%的金融機構(gòu)一致認為，標(biāo)準(zhǔn)化程度越高，AI可替代性就越強。與其坐等被替代，不如尋求主動出擊。從調(diào)研結(jié)果看，金融機構(gòu)對GPT產(chǎn)品的需求主要集中在三個方面，即改善用戶體驗、輔助風(fēng)控決策、資料查詢與信息提煉。

數(shù)據(jù)顯示，72%的受訪金融機構(gòu)相信，通過使用自然、流暢、個性化語言的GPT產(chǎn)品，可以有效緩解客戶情緒，降低客戶投訴率。67%的受訪金融機構(gòu)表示，他們需要一款能夠全面、準(zhǔn)確地解讀征信報告的GPT產(chǎn)品，以提高信貸人員的工作效率和精準(zhǔn)度。64%的受訪金融機構(gòu)認為，GPT產(chǎn)品的能力將有助于提煉信息、整合材料、生成報告，減輕金融機構(gòu)內(nèi)部繁重的案頭工作。

某南方農(nóng)村信用社聯(lián)合社科技負責(zé)人表示：“我們認為客戶對話是非常重要的一環(huán)，特別希望有一款能夠生成自然、流暢、個性化語言的GPT產(chǎn)品，能滿足客戶問題解答及處理，同時又能紓解客戶情緒，提升客戶體驗和滿意度，減少客戶投訴率?！蓖瑫r，他也指出，機構(gòu)也會相當(dāng)重視對話內(nèi)容的合規(guī)性、安全性、可信度和邏輯性，“如果GPT無法解決問題處理操作的準(zhǔn)確性，我們將會選擇僅回答問題，在操作環(huán)節(jié)再跳轉(zhuǎn)人工復(fù)核?！?/p>

某南方城商行副行長表示：“我們在數(shù)字化轉(zhuǎn)型的過程中迫切需要一款優(yōu)秀的GPT產(chǎn)品，來提高其業(yè)務(wù)的效率和質(zhì)量。GPT能夠快速查詢專業(yè)領(lǐng)域資料，提煉核心信息。當(dāng)然，AI提供的信息有些需要深入考究真實性，但是GPT肯定是未來金融業(yè)務(wù)發(fā)展的趨勢。因此，我們一定會加緊研究和選擇GPT產(chǎn)品，以適應(yīng)市場的需求并提高自身的競爭力?！?/p>

李禮輝認為，ChatGPT的面世推動人工智能發(fā)展史走到了奇點，是人工智能的迭代升級，標(biāo)志著數(shù)字技術(shù)的某種變局，將會帶來新的沖擊和挑戰(zhàn)。

一是在算力競爭上面臨挑戰(zhàn)。金融領(lǐng)域中，智能化的信用評估、客戶篩選、風(fēng)險定價、數(shù)字員工等方面無不需要數(shù)據(jù)和算力的支撐，算力很大程度上決定金融業(yè)的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。我們需要探討如何構(gòu)建一個既能占領(lǐng)全球技術(shù)高地、又能避免壟斷的國家級算力基礎(chǔ)設(shè)施；如何構(gòu)建一個資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機構(gòu)和科技公司可受益的金融算力生態(tài)圈。

二是AI合成與信任面臨挑戰(zhàn)。深度內(nèi)容合成模糊了真實與虛假的邊界，最新的深度合成算法可以對抗通用的技術(shù)性的甄別，人們開始擔(dān)憂AI虛假與AI操縱對社會構(gòu)成的威脅。低級別的AI虛假用于詐騙、詆毀個人及企業(yè)名譽；高級別的AI操縱有可能用于詆毀政治人物或政權(quán)實體操控負面輿情、制造政治惡意、激化社會矛盾。

“AI換臉”詐騙敲響安全警鐘

風(fēng)控是金融機構(gòu)可持續(xù)發(fā)展的生命線，安全性是金融科技創(chuàng)新應(yīng)用關(guān)注的重要問題。近日，包頭警方公布了一則AI詐騙案例，敲響了人工智能的警鐘。

據(jù)警方通報，騙子冒充郭先生一名至交好友，通過微信聯(lián)系到郭先生。對方告訴郭先生，他的朋友在外地招標(biāo)，需要430萬元，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。郭先生說，“從頭至尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當(dāng)時是給我打了視頻，我在視頻中也確認了面孔和聲音，所以才放松了戒備。因為當(dāng)時已經(jīng)臨近12點了，對方又說招標(biāo)款12點前必須到賬，所以基于信任的前提下，我還沒等錢到我的賬戶，就先把這430萬元給對方打了過去?！?/p>

沒想到的是，當(dāng)錢款打過去后，郭先生拿起手機給好朋友的微信發(fā)了一條消息，稱事情已經(jīng)辦妥。讓他沒想到的是，此次對方回過來的消息竟然是一個問號。很快，郭先生撥打了好朋友的電話，這一問才知道自己竟然是遇上了“高端”騙局，對方通過智能AI的詐騙手段，佯裝成好朋友對他實施了詐騙。

郭先生在視頻中看到的朋友面孔和聲音難道是假的？確實是假的。隨著AIGC技術(shù)的大爆發(fā)，普通人接觸到各種先進生成工具變得不費吹灰之力，制作出越發(fā)難以識別的高質(zhì)量deepfake視頻也越來越容易，想一眼識破這些造假內(nèi)容就更困難。

5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布提醒：伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。

包頭警方通報的案例中，不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強防范。

據(jù)度小滿數(shù)據(jù)智能部總經(jīng)理、度小滿技術(shù)委員會執(zhí)行主席楊青介紹，在金融行業(yè)，由deepfake產(chǎn)生的主要欺詐行為就是身份欺詐，也就是通過深度偽造的虛假圖像和視頻，來冒充他人身份，騙過金融信貸流程中的身份核驗系統(tǒng)（包括活體檢測）。不法分子的欺詐方法其實也很簡單，就是先通過劫持root或者緩存文件注入等形式劫持手機的攝像頭，不讓它進行真實采集。然后上傳提前準(zhǔn)備好的虛假證件信息（或經(jīng)過篡改處理，或直接從黑產(chǎn)處購買）和通過深偽技術(shù)/AIGC技術(shù)生成的人臉樣本了。如果系統(tǒng)恰好沒有檢測出來，盜刷和惡意注冊就可能隨之而來，給金融機構(gòu)和用戶造成不易挽回的經(jīng)濟損失。

中關(guān)村科金金融事業(yè)部技術(shù)專家張巍向記者表示，隨著技術(shù)的不斷進步和計算能力的提升，AI換臉技術(shù)成本越來越低，更加易于使用，因此此類AI換臉案例逐步進入公眾視野，監(jiān)管機構(gòu)、行業(yè)參與者及社會公眾需對此予以關(guān)注。該項技術(shù)的濫用，引發(fā)了行業(yè)很多思考，包括：隱私侵犯、虛假信息傳播、偽造身份、形象破壞和誹謗、法律和倫理問題。對于AI技術(shù)濫用，需要警惕所帶來的風(fēng)險問題。

當(dāng)前應(yīng)對AI詐騙的探討與實踐

有數(shù)據(jù)顯示，國內(nèi)主要金融機構(gòu)及互聯(lián)網(wǎng)公司應(yīng)用的人臉驗證流程，70%以上存在被繞過的風(fēng)險。在全球范圍內(nèi)，也有快接近一半（46%）的企業(yè)遭受過合成身份的欺詐，有高達90%的受訪企業(yè)認為這種行為已日益嚴重。

“新技術(shù)發(fā)展到現(xiàn)在這個階段，我們迫切需要重構(gòu)人工智能信任。需要探討的是如何在技術(shù)上和制度上有效對抗AI虛假，如何建立防范AI操縱的防火墻，維護數(shù)字經(jīng)濟時代的國家安全，當(dāng)然也要維護數(shù)字經(jīng)濟時代金融業(yè)的安全?！崩疃Y輝如是說。

實際上，已有公司在破解deepfake視頻上有所研究和實踐。楊青告訴記者，一般來說，行業(yè)各家公司在破解deepfake視頻上采取的思路和以上所講差別不大。以度小滿為例，用防深偽檢測模型破解造假視頻，防深偽攻擊的算法策略主要從三方面的破綻入手。

具體來看，一是生成瑕疵，比如，眨眼頻率不正常、瞳孔形狀不規(guī)則、牙齒有缺陷，大到口型與聲音不吻合，肢體動作與演講內(nèi)容不協(xié)調(diào)……二是固有屬性，指的是生成工具、攝像頭光感元件固有的噪聲指紋。由于單一特征難以適應(yīng)復(fù)雜的deepfake內(nèi)容，因此檢測模型的整體框架采用的是多特征融合，以此來保證決策的魯棒性。三是高層語義。它指的是檢測面部動作單元（肌肉群）協(xié)調(diào)性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問題，由于這些細節(jié)建模困難、難以復(fù)制，很容易抓到把柄。

應(yīng)對濫用AI技術(shù)進行詐騙，人工智能科技公司、監(jiān)管部門均需發(fā)揮應(yīng)有的作用。張巍認為，對于人工智能科技公司而言，一方面發(fā)展技術(shù)，另一方面也要對技術(shù)進行迭代，避免技術(shù)所帶來的道德風(fēng)險；對于監(jiān)管，期望能夠從行業(yè)秩序方面給予支持和規(guī)范，保障技術(shù)良性發(fā)展，為社會帶來幫助。

他進一步指出，金融機構(gòu)應(yīng)從技術(shù)升級和組織升級角度予以防范，與相關(guān)監(jiān)管機構(gòu)、司法機構(gòu)開展合作，共同打擊欺詐。一方面，技術(shù)升級包括引入人工智能輔助技術(shù)，實施多層次、多模態(tài)身份核驗，全面升級網(wǎng)絡(luò)安全和數(shù)據(jù)安全策略，針對異常行為進行監(jiān)測；另一方面，組織升級包括加強員工安全培訓(xùn)，加強對新型欺詐手段的認知和應(yīng)對，提升安全意識。

隨著AI技術(shù)近期的迅猛發(fā)展，新一輪的有針對性的監(jiān)管正在逐步完善。作為一家領(lǐng)先的對話式AI技術(shù)解決方案提供商，中關(guān)村科金有責(zé)任與行業(yè)各方一道，堅定支持監(jiān)管機構(gòu)開展行業(yè)監(jiān)管，通過科技輔助相關(guān)監(jiān)管規(guī)范落地，共同維護行業(yè)秩序。