經(jīng)濟(jì)觀察網(wǎng) 記者 歐陽曉紅

(資料圖片僅供參考)

一

4月1日是“愚人節(jié)”，對(duì)ChatGPT意大利用戶來說，這個(gè)“玩笑”開大了；對(duì)OpenAI而言，卻有些猝不及防——它有20天的調(diào)整適應(yīng)期。

當(dāng)?shù)貢r(shí)間3月31日，以“非法收集個(gè)人資料；未成年人年齡核實(shí)系統(tǒng)缺失”之名，意大利個(gè)人數(shù)據(jù)監(jiān)管局（Guarantor for the Protection of Personal Data，GPDP）宣布禁用ChatGPT，直到它尊重隱私法規(guī)；行政措施立即生效。同時(shí)，監(jiān)管部門立案?jìng)刹椤?/p>

而在30日就發(fā)出的行政措施文件中，GPDP稱，對(duì)ChatGPT進(jìn)行多次測(cè)試，并就用戶數(shù)據(jù)隱患問題先后指出以下幾點(diǎn)：

1、ChatGPT并未告知用戶任何關(guān)于OpenAI通過該服務(wù)數(shù)據(jù)收集的相關(guān)信息。

2、缺失對(duì)于用戶個(gè)人數(shù)據(jù)的處理，以及對(duì)其作為ChatGPT算法優(yōu)化途徑的合格評(píng)判基準(zhǔn)。

3、服務(wù)方提供的數(shù)據(jù)相關(guān)信息與部分事實(shí)不符。

4、在OpenAI發(fā)布的條款中明確該公司產(chǎn)品不為13歲以下用戶提供服務(wù)，ChatGPT卻缺失任何對(duì)于用戶年齡的驗(yàn)證。

GPDP還稱，3月20日發(fā)生了有關(guān)付費(fèi)服務(wù)訂閱者的用戶與ChatGPT對(duì)話和支付信息的數(shù)據(jù)泄露。并指出，最重要的是OpenAI缺乏法律依據(jù)來證明其收集和大量存儲(chǔ)個(gè)人數(shù)據(jù)是合理的，以便“訓(xùn)練”平臺(tái)操作的基礎(chǔ)算法。此外，根據(jù)OpenAI條款，服務(wù)用戶是13歲以上的人，但GPDP強(qiáng)調(diào)，沒有任何過濾器來驗(yàn)證用戶的年齡，使未成年人面臨對(duì)其發(fā)展程度和自我意識(shí)絕對(duì)不合適的答案。

OpenAI在歐盟未設(shè)辦事處，但在歐洲經(jīng)濟(jì)區(qū)任命了一名代表，GPDP要求其必須在20天內(nèi)反饋為實(shí)施GPDP要求而采取的措施，從該文件發(fā)布即日起，OpenAI有二十天的時(shí)間根據(jù)歐盟相關(guān)法律對(duì)產(chǎn)品作出調(diào)整，否則同樣根據(jù)歐盟法律，其將被處以最高2000萬歐元或最高4%的全球年?duì)I業(yè)額的罰款。

因此，OpenAi需要在規(guī)定時(shí)間提供有關(guān)數(shù)據(jù)收集的所有文件，包括還必須明確要采用哪些系統(tǒng)來驗(yàn)證訪問其服務(wù)的用戶年齡，悉數(shù)滿足要求后，才能繼續(xù)在意大利運(yùn)營(yíng)。

就此，OpenAI創(chuàng)始人Sam Altman在社交媒體上回應(yīng)，當(dāng)然會(huì)服從意大利政府，并已停止在意大利提供ChatGPT（盡管其認(rèn)為遵守所有的隱私法）?！耙獯罄俏易钕矚g的國(guó)家之一，期待很快再次訪問。”

事實(shí)上，GPDP叫停ChatGPT后，OpenAi在意大利連夜暫停了對(duì)該服務(wù)的訪問。4月1日，當(dāng)一早醒來的意大利用戶嘗試連接OpenAI時(shí)，得到的網(wǎng)頁響應(yīng)是：《網(wǎng)站所有者可能設(shè)置了阻止用戶訪問的限制》。

針對(duì)付費(fèi)訂閱用戶，OpenAI將向3月份購(gòu)買ChatGPTPlus訂閱的意大利所有用戶退款；還暫停了意大利的訂閱續(xù)訂，以便在 ChatGPT 暫停期間不會(huì)向用戶收費(fèi)。

“我們致力于保護(hù)人們的隱私，并相信我們提供的 ChatGPT 符合GDPR和其他隱私法。我們將與意大利數(shù)據(jù)保護(hù)局合作，以盡快恢復(fù)您的訪問權(quán)限?！監(jiān)penAI支持團(tuán)隊(duì)在致意大利ChatGPT用戶的公開信中表示，“許多人告訴我們，發(fā)現(xiàn) ChatGPT 對(duì)日常任務(wù)很有幫助，我們期待很快再次提供它?！?/p>

二

是這樣嗎？據(jù)英國(guó)BBC報(bào)道，OpenAI承認(rèn)對(duì)數(shù)據(jù)的處理缺失存在漏洞，隨后又稱ChatGPT之所以有收集數(shù)據(jù)的機(jī)制，是為了讓其“學(xué)習(xí)這個(gè)世界”，而非“學(xué)習(xí)用戶個(gè)人”，并表示“希望早日恢復(fù)對(duì)意大利的服務(wù)”。

問題在于，意大利用戶不知道，20天“整改期”之后的結(jié)果如何。Sam Altman認(rèn)為，OpenAi遵守了所有的隱私法；但GPDP有異議，需要OpenAI提供相關(guān)證明文件（但它們看起來并不容易），包括對(duì)用戶年齡的核實(shí)系統(tǒng)問題何解？而且，意大利對(duì)基于歐盟人權(quán)法律下的個(gè)人隱私權(quán)極其重視，GPDP行政措施中所列的每一項(xiàng)內(nèi)容均引自相關(guān)法律。

“我們需要停止ChatGPT，我們不知道它對(duì)我們的數(shù)據(jù)做了什么?！盙PDP董事會(huì)成員之一的律師Guido Scorza就此接受媒體采訪時(shí)表示。

自2020年開始，就一直是GPDP董事會(huì)成員的Guido Scorza說，GPDP此次是獨(dú)立行動(dòng)?，F(xiàn)在OpenAi有20天的時(shí)間來遵守規(guī)定。

當(dāng)被問及ChatGPT 收集了哪些數(shù)據(jù)時(shí)，Guido Scorza稱，并不清楚?！拔覀兾ㄒ豢梢哉f的是（ChatGPT）收集個(gè)人數(shù)據(jù)是為了開發(fā)算法。如果不是這種情況，當(dāng)我們向他詢問或多或少有名的人物簡(jiǎn)介時(shí)，ChatGPT無法回答我們的問題。”

提及律師與OpenAI的分歧或異議，Guido Scorza直言，特別是三種不同的違規(guī)行為：(a) 收集了數(shù)十億人的個(gè)人數(shù)據(jù)來訓(xùn)練他們的算法，而沒有告知他們這種情況，并且可能沒有適當(dāng)?shù)姆梢罁?jù)，(b)在對(duì)話期間收集用戶的個(gè)人數(shù)據(jù)在不告知他們這些數(shù)據(jù)的命運(yùn)的情況下，以及(c)生成內(nèi)容以回答問題，這些內(nèi)容有時(shí)會(huì)歸因于人們不準(zhǔn)確和不真實(shí)的事實(shí)和情況，從而提出對(duì)他們個(gè)人身份的歪曲表述。

Guido Scorza舉例稱，如果他問聊天機(jī)器人Guido Scorza 是什么時(shí)候進(jìn)入數(shù)據(jù)保護(hù)局的，答案為2016年，但事實(shí)是2020年?！斑@（回答）還算不錯(cuò)；但如果他說我在海邊撞到一個(gè)孩子然后逃跑了，而真相并非如此，那將永遠(yuǎn)毀了我的生活。而且我認(rèn)為我們不允許發(fā)生這種情況?！盙uido Scorza說。

他強(qiáng)調(diào)，這次GPDP是獨(dú)立行動(dòng)，因?yàn)?OpenAi不在歐洲相關(guān)隱私保護(hù)機(jī)構(gòu)合作程序之內(nèi)。不過，他認(rèn)為，接下來的幾天里，歐洲層面肯定會(huì)有討論的空間，以了解是否以及如何合作和共同行動(dòng)。

其畫外音或是，GPDP“打響禁用ChatGPT頭炮”之后，歐洲相關(guān)組織可能也會(huì)采取行動(dòng)。

“AI熱潮下，意大利禁用ChatGPT也許不會(huì)是個(gè)案?！狈治鋈耸空J(rèn)為，“而OpenAI自身漏洞也是不可忽視的長(zhǎng)期隱患。在完全不知走向的科技革命中，任何一步均可能演變?yōu)闊o法彌補(bǔ)或逆轉(zhuǎn)的歷史，無論對(duì)錯(cuò)、代價(jià)如何；因此，現(xiàn)階段下的AI向前推進(jìn)的每一步都需審慎評(píng)估?！?/p>

就在幾天前，包括埃隆·馬斯克(Elon Musk) 在內(nèi)的1000多人聯(lián)名呼吁暫停高級(jí)人工智能的開發(fā)，直到獨(dú)立專家開發(fā)、實(shí)施和審計(jì)這類設(shè)計(jì)的共享安全協(xié)議。

當(dāng)?shù)貢r(shí)間29日，據(jù)路透社報(bào)道，馬斯克和一群人工智能專家、行業(yè)高管在由非營(yíng)利組織未來生命研究所（FLI）發(fā)布的一封公開信中，呼吁暫停開發(fā)比GPT-4更強(qiáng)大的系統(tǒng)，暫停6個(gè)月，并指出其對(duì)社會(huì)和人類存在潛在風(fēng)險(xiǎn)。他們?cè)谛胖袑懙溃褐挥性谖覀兇_信它們的效果是積極的，風(fēng)險(xiǎn)是可控的情況下，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。

這種擔(dān)憂其實(shí)由來已久。在派拓網(wǎng)絡(luò)副總裁兼亞太及日本地區(qū)首席安全官Sean Duca看來，ChatGPT（AI）是把“雙刃劍”。多年來，全世界都在猜測(cè)AI可能即將統(tǒng)治世界。如今，用戶可以使用AI驅(qū)動(dòng)的安全工具和產(chǎn)品，在幾乎無需人為干預(yù)的情況下應(yīng)對(duì)大量網(wǎng)絡(luò)安全事件，但業(yè)余黑客也可以利用同樣的技術(shù)開發(fā)智能惡意軟件程序并發(fā)起隱形攻擊。

Sean Duca認(rèn)為，ChatGPT帶來的網(wǎng)絡(luò)安全隱患不容忽視。比如，此前在拉斯維加斯舉行的黑帽和Defcon安全大會(huì)上，一個(gè)技術(shù)團(tuán)隊(duì)展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的。當(dāng)務(wù)之急是采取智能化的行動(dòng)來化解這些不斷發(fā)展的威脅。好消息是自主響應(yīng)如今能夠在無需人類干預(yù)的情況下有效解決威脅。但隨著AI驅(qū)動(dòng)的攻擊成為常態(tài)，受到自動(dòng)化惡意軟件攻擊的企業(yè)、政府和個(gè)人需要越來越多地依靠AI和機(jī)器學(xué)習(xí)（ML）等新興技術(shù)做出自動(dòng)化響應(yīng)。

誠(chéng)然，隨著技術(shù)的發(fā)展，人們?cè)絹碓蕉嗟匾庾R(shí)到數(shù)據(jù)隱私和保護(hù)的重要性。根據(jù)Gartner預(yù)測(cè)，到2024年末，全球75%人口的個(gè)人數(shù)據(jù)將得到現(xiàn)代隱私法規(guī)的保護(hù)。面對(duì)愈發(fā)完善的數(shù)據(jù)法律法規(guī)，作為數(shù)據(jù)管理領(lǐng)域全球領(lǐng)導(dǎo)者的Commvault列出了2023年數(shù)據(jù)隱私和保護(hù)的十大工作重點(diǎn)。

其中，重點(diǎn)一是數(shù)據(jù)保護(hù)策略：在不斷變化的數(shù)據(jù)環(huán)境中，企業(yè)應(yīng)該創(chuàng)建整體數(shù)據(jù)保護(hù)策略中的數(shù)據(jù)隱私、備份和恢復(fù)，以及災(zāi)難恢復(fù)計(jì)劃，并不斷更新。重點(diǎn)二是“加密”，加密對(duì)于數(shù)據(jù)保護(hù)和保護(hù)隱私數(shù)據(jù)至關(guān)重要。數(shù)據(jù)加密有助于防止對(duì)個(gè)人信息的未授權(quán)訪問。這對(duì)于醫(yī)療機(jī)構(gòu)、金融機(jī)構(gòu)等需要處理大量隱私數(shù)據(jù)的企業(yè)機(jī)構(gòu)尤為重要。

此外的重點(diǎn)六是數(shù)據(jù)治理和洞察；調(diào)查顯示，57%的首席信息安全官承認(rèn)，他們不清楚他們的一部分?jǐn)?shù)據(jù)（或所有數(shù)據(jù)）位于何處，又是如何被保護(hù)的。隨著隱私數(shù)據(jù)量的不斷增長(zhǎng)，法規(guī)的數(shù)量也在成倍增加。企業(yè)需要了解他們的數(shù)據(jù)，包括數(shù)據(jù)的位置以及哪些數(shù)據(jù)存在風(fēng)險(xiǎn)等等。企業(yè)如此，個(gè)人數(shù)據(jù)保護(hù)亦然。

“AI和人類之間的微妙平衡將成為實(shí)現(xiàn)網(wǎng)絡(luò)安全的關(guān)鍵因素?！盨ean Duca表示。

關(guān)鍵詞：