春節(jié)剛過，打工人還沒徹底從節(jié)后綜合癥里走出來，人工智能領域的ChatGPT就已經(jīng)火遍全網(wǎng)。智能銀行一直是銀行數(shù)字化轉(zhuǎn)型的重點方向，銀行自然也會密切關注這一冉冉升起的AI明星。
(資料圖)
2月6日，招商銀行(600036)發(fā)布招商銀行親情信用卡（附卡）推文。這篇推文通過與ChatGPT對話的方式對親情作出解釋，引發(fā)業(yè)界熱議。
2月8日，江蘇銀行(600919)相關負責人表示，該行已嘗試運用ChatGPT 技術提升軟件開發(fā)生產(chǎn)力，進一步提高科技運營效能。
新技術應用，銀行向來是積極的，同時也是謹慎的。從當前的表現(xiàn)來看，銀行并未將ChatGPT應用在具體的金融業(yè)務上。技術成熟度和可能產(chǎn)生的科技倫理風險是銀行對新技術保持謹慎的重要原因。
任何技術的出現(xiàn)所帶來的科技倫理問題都會引起監(jiān)管的注意。ChatGPT一路狂飆，如何才能實現(xiàn)安全駕馭？如何引導技術健康發(fā)展，防范潛在風險一直是監(jiān)管留意和研究的重點課題。
2022年10月9日，中國人民銀行就正式發(fā)布了《金融領域科技倫理指引》（JR/T0258-2022）標準（以下簡稱“《指引》）?！吨敢访鞔_，科技倫理即開展科學研究、技術開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。
《金融領域科技倫理指引》
2022年1月，中國人民銀行印發(fā)《金融科技發(fā)展規(guī)劃（2022-2025年）》（以下簡稱《規(guī)劃》）。《規(guī)劃》提出了八個方面的重點任務。其中，第一條便是強化金融科技治理，全面塑造數(shù)字化能力，健全多方參與、協(xié)同共治的金融科技倫理規(guī)范體系，構(gòu)建互促共進的數(shù)字生態(tài)。
除了金融監(jiān)管，即使是民間科技大佬也在呼吁“對人工智能進行監(jiān)管”。
2018年3月，馬斯克是在接受 HBO 劇集《西部世界》聯(lián)合導演喬納森·諾蘭的采訪時表示，人類需要對人工智能進行監(jiān)管，以確保人工智能技術發(fā)展的安全性，這一點極其重要。
面對以ChatGPT為代表的人工智能應用，銀行需要做好哪些風險防范呢？
一是技術風險。ChatGPT主要靠模型訓練來豐富自己的對答能力。有技術專家認為，“ChatGPT的輸出仍然更偏向于統(tǒng)計學規(guī)律，而不是真正的智能。”如果語料信息有誤導，那么訓練的結(jié)果也會產(chǎn)生偏差。有些網(wǎng)友故意對其挖坑，它也善解人意地“跳坑”迎合。如下圖：
網(wǎng)友“挖坑”，ChatGPT“跳坑”
尤其是一些專業(yè)業(yè)務內(nèi)容，一般人很難判斷ChatGPT是一本正經(jīng)地胡說八道還是有板有眼地進行合理輸出，稍有不慎，就會給銀行或客戶帶來巨大損失。這也是為什么ChatGPT語料審查和標準成本高昂的原因之一。
二是數(shù)據(jù)泄露風險。AI訓練的語料可以是多種多樣的。在銀行，AI會大量獲取銀行和客戶的敏感數(shù)據(jù)信息，這些數(shù)據(jù)如果不加限制，被AI隨意輸出，必然會帶來災難。數(shù)據(jù)風控內(nèi)審變得極為重要，監(jiān)管審查，包括代碼審查也變得十分必要。
三是監(jiān)管風險。技術的迭代效率大多是漸進式的，但AI的訓練和演化可能會不一樣。有研發(fā)人員表示，他在研究ChatGPT時有一種擔憂，如果它越過了某個奇點，那后果或許是十分可怕的?！翱赡?，前幾分鐘，ChatGPT還是個傻子，但幾分鐘后，整個人類在它面前都是傻子?！币坏┑搅四莻€時候，想管都管不住了。
另外，在電信詐騙方面，很多犯罪分子在直接參與電信詐騙之前，往往有“專業(yè)、集中、系統(tǒng)”的電詐話術培訓，這些話術若被用于訓練ChatGPT，那么ChatGPT成為詐騙犯的日子也就不遠了，但我們會很難去抓住其背后的那個真正的詐騙犯。
除倫理風險外，ChatGPT在銀行領域的敏感風險還有成本風險。
對于單個金融機構(gòu)而言，人工智能的研發(fā)成本極其高昂。一位長期關注人工智能發(fā)展趨勢的技術專家向中國電子銀行網(wǎng)表示，除了昂貴的軟硬件設施外，長周期的語料“訓練”是一般企業(yè)難以承受的。比如語料審查和標注就是一項龐大的工作，時間成本和金錢成本會很高。
雖然，微軟近日提出，計劃在今年晚些時候發(fā)布軟件，幫助大公司創(chuàng)建類似ChatGPT的聊天機器人。這樣可以在一定程度上降低企業(yè)的成本風險，但各企業(yè)的語料訓練標準不一，也會導致風險治理難度的增大。
在智能金融創(chuàng)新活動中化解和規(guī)避這些風險是銀行安全駕馭ChatGPT的重要前提條件。
（責編：王超）
關鍵詞： ChatGPT
