近年來，隨著機(jī)器學(xué)習(xí)以及神經(jīng)網(wǎng)絡(luò)的持續(xù)迭代和演進(jìn)，人工智能正朝著歷史性的時刻邁進(jìn)，特別是以ChatGPT為代表的生成式AI的出現(xiàn)，催生人工智能和更多應(yīng)用場景結(jié)合。但在AI技術(shù)推動各行各業(yè)創(chuàng)新發(fā)展的同時，其所帶來的數(shù)據(jù)安全問題也引起廣泛關(guān)注，如何在滿足業(yè)務(wù)基本需求的基礎(chǔ)上，強(qiáng)化數(shù)據(jù)保護(hù)能力，保障數(shù)據(jù)安全流動，已經(jīng)成為各大企業(yè)當(dāng)前亟待解決的問題。

【資料圖】

AI技術(shù)高速發(fā)展帶來數(shù)據(jù)安全新問題

生成式AI依賴大量數(shù)據(jù)和大型模型，任何一個環(huán)節(jié)的安全疏漏，都可能會導(dǎo)致企業(yè)自身數(shù)據(jù)及隱私的泄露，或者產(chǎn)生不準(zhǔn)確甚至錯誤的結(jié)果，甚至就算用戶正常使用，都有可能存在個人數(shù)據(jù)泄露的風(fēng)險。

今年年初，意大利個人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺的 OpenAI 公司處理意大利用戶信息，同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。OpenAI也向外界證實，部分ChatGPT Plus的確存在數(shù)據(jù)安全漏洞，可能泄露了服務(wù)訂閱用戶的個人隱私和支付信息。不只是國外，近期國內(nèi)各類“AI 詐騙”案件也層出不窮，用戶缺乏警惕性，引起各界廣泛關(guān)注。

根據(jù)國際開源安全組織OWASP報告顯示，大語言模型（LLM）應(yīng)用的安全威脅包括提示注入、數(shù)據(jù)泄露、沙箱隔離不足、未經(jīng)授權(quán)的執(zhí)行代碼、SSRF漏洞、過度依賴LLM生成的內(nèi)容、AI調(diào)整能力不足、錯誤處理不當(dāng)、訓(xùn)練數(shù)據(jù)污染等十個風(fēng)險。

AI技術(shù)快速發(fā)展的弊端浮出水面，敲響新技術(shù)帶來的新安全問題警鐘，也讓AI本身的安全性變得愈發(fā)重要。中國科學(xué)院院士何積豐此前在《探索下一代安全智能》論壇上表示，以人工智能為代表的數(shù)字技術(shù)正邁入從高速增長向高質(zhì)量增長轉(zhuǎn)變的全新發(fā)展階段，這對其自身安全性和可靠性提出更高要求，也衍生出新型風(fēng)險與挑戰(zhàn)。

為此，在行業(yè)內(nèi)建立起一個更加可信可控的數(shù)字安全屏障刻不容緩。9月初，中國電信、螞蟻集團(tuán)、華為、百度、字節(jié)跳動、西安電子科技大學(xué)、國家金融測評中心等30余家機(jī)構(gòu)作為首批發(fā)起單位，宣布成立“AI安全工作組”，致力于共同解決AI技術(shù)快速發(fā)展所帶來的安全難題。

九方財富守住“安全”底線

行業(yè)監(jiān)督固然重要，企業(yè)的自覺也不可或缺。

在金融行業(yè)，AI技術(shù)的應(yīng)用也越來越廣泛。領(lǐng)先的在線投資決策解決方案提供商九方財富（09636.HK），自2019年就開始全面開啟“數(shù)智化”轉(zhuǎn)型，期間推出了包括AI旺財、AI巡查官、AI監(jiān)測官、智能創(chuàng)造工坊，以及行業(yè)首個智能投顧數(shù)字人“九哥”在內(nèi)的眾多AI產(chǎn)品。

自成立以來，九方財富持續(xù)加大在數(shù)據(jù)安全領(lǐng)域的投入，并依據(jù)行業(yè)最高標(biāo)準(zhǔn)打造了自身數(shù)據(jù)安全體系。在用戶數(shù)據(jù)安全方面，九方財富堅持制度建設(shè)和技術(shù)能力兩手抓，嚴(yán)格遵循相關(guān)法規(guī)開展合法經(jīng)營；在產(chǎn)品設(shè)計上，九方財富不斷探索新技術(shù)、新應(yīng)用，提升數(shù)據(jù)安全防護(hù)能力，全方位保障用戶數(shù)據(jù)安全。

九方財富多年來在數(shù)據(jù)、合規(guī)安全領(lǐng)域上的耕耘和沉淀，已經(jīng)成為了行業(yè)的典范。今年年初，九方財富旗下九方智投的案例順利編入了中國信通院發(fā)布的《數(shù)據(jù)安全管理實踐案例集》。隨后4月，九方智投又成功獲得了中國信通院頒發(fā)的“數(shù)據(jù)安全管理能力認(rèn)證(DSMC)”證書，成為證券投資咨詢行業(yè)首家獲頒該證書的企業(yè)。不僅如此，九方智投還獲得國際認(rèn)證機(jī)構(gòu)SGS頒發(fā)的ISO/IEC 27001信息安全管理體系標(biāo)準(zhǔn)及ISO/IEC 27701隱私管理體系標(biāo)準(zhǔn)雙認(rèn)證。

數(shù)據(jù)安全不僅影響著企業(yè)的穩(wěn)健發(fā)展，也直接影響到國家安全。為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，7月國家網(wǎng)信辦等七部門聯(lián)合發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，此前4月，國家互聯(lián)網(wǎng)信息辦公室也發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》并公開征求意見。九方財富（09636.HK）在數(shù)據(jù)安全管理上積極發(fā)揮帶頭作用，不僅是對廣大投資者的負(fù)責(zé)，也將對行業(yè)、國家數(shù)據(jù)安全產(chǎn)業(yè)的健康發(fā)展帶來積極有效的推動作用。

（免責(zé)聲明：此文內(nèi)容為廣告，相關(guān)素材由廣告主提供，廣告主對本廣告內(nèi)容的真實性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé)，請自行核實相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。）

關(guān)鍵詞：