當(dāng)?shù)貢r(shí)間本周二，包括OpenAI首席執(zhí)行官Sam Altman在內(nèi)的高級(jí)人工智能高管與專家和教授一起簽署了一份聲明，要在全球范圍內(nèi)提升“人工智能滅絕的風(fēng)險(xiǎn)”，同時(shí)敦促政策制定者，要像對(duì)待流行病、核戰(zhàn)爭(zhēng)一樣對(duì)待。

銀柿財(cái)經(jīng)發(fā)現(xiàn)，發(fā)起聲明倡議的人工智能安全中心（CAIS）是一家位于舊金山的研究和領(lǐng)域建設(shè)的非營(yíng)利組織。它的使命是減少人工智能帶來的大規(guī)模社會(huì)風(fēng)險(xiǎn)。

【資料圖】

聲明前言是這樣寫的：全球人工智能專家、記者、政策制定者和公眾越來越多地討論著，人工智能帶來的一系列重要而緊迫的風(fēng)險(xiǎn)。即便如此，也很難表達(dá)我們對(duì)一些先進(jìn)人工智能最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂。我們簡(jiǎn)明扼要的發(fā)言旨在克服這一障礙并想在廣泛范圍內(nèi)與大家展開討論。

銀柿財(cái)經(jīng)發(fā)現(xiàn)，這份聲明的簽署者已達(dá)到350多名，除了奧特曼，他們還包括人工智能公司 DeepMind和 Anthropic的首席執(zhí)行官，以及微軟和谷歌的高管。名單中還包括了清華大學(xué)智能清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞琴、中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅等多位來自中國(guó)的專家教授。

近日，人工智能的監(jiān)管，人工智能帶來的風(fēng)險(xiǎn)等，都成了媒體和相關(guān)領(lǐng)域的熱議話題。是不是要像應(yīng)對(duì)核戰(zhàn)一樣對(duì)待人工智能，針對(duì)這一說法，浙江大學(xué)人工智能研究所所長(zhǎng)、求是特聘教授吳飛向銀柿財(cái)經(jīng)表示，在他看來這個(gè)話題還是有點(diǎn)夸張了。

吳飛轉(zhuǎn)發(fā)給銀柿財(cái)經(jīng)一篇文章來代表他的觀點(diǎn)。文章中，他表示，目前集中在人工智能討論上有四個(gè)問題，是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道、是否應(yīng)該自動(dòng)化所有工作、是否應(yīng)該發(fā)展最終可能超過并取代我們的非人類思維、是否應(yīng)該冒險(xiǎn)失去對(duì)文明的控制。在這些問題中，機(jī)器通過機(jī)械匹配所合成的非事實(shí)內(nèi)容已經(jīng)出現(xiàn)，另外三個(gè)問題離我們還很久遠(yuǎn)。

在文中，吳飛表示，人工智能的出現(xiàn)將使人類社會(huì)諸多業(yè)務(wù)模式發(fā)生一次變革，同樣為奇妙的“多樣性”打開了一扇窗戶。

3月29日，生命未來研究所呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月。吳飛認(rèn)為，按下暫停鍵應(yīng)視為對(duì)人工智能長(zhǎng)遠(yuǎn)健康發(fā)展的一次深思，而不是一次具體行為。

吳飛進(jìn)一步闡述，機(jī)器是人類創(chuàng)造出來的，人類的作用就是在人和機(jī)器共處的社會(huì)中，不斷用知識(shí)強(qiáng)化機(jī)器。我們需要用進(jìn)化觀點(diǎn)去看待這個(gè)過程，盡可能發(fā)展種種可能性，而不是陷入“人機(jī)相斗”和“人機(jī)相害”的臆想中。

銀柿財(cái)經(jīng)發(fā)現(xiàn)，人工智能的第三位教父、Meta 首席人工智能科學(xué)家楊立昆（Yann LeCun）以及所在的Meta公司卻無人簽署這份聲明。去年10月，楊立昆（Yann LeCun）在接受 ZDNet 的一次采訪中，提出了一個(gè)重要觀點(diǎn)。他表示：“今天的人工智能方法永遠(yuǎn)不會(huì)帶來真正的智能。所有人工智能都面臨的某些基本問題，特別是如何衡量信息。關(guān)于AI的發(fā)展走向，學(xué)術(shù)界和業(yè)界都需要進(jìn)行深刻反思?！?/p>

在與 ZDNet 的對(duì)話中，楊立昆指出：“我對(duì)目前深度學(xué)習(xí)領(lǐng)域最成功的許多研究途徑，都持有極大的懷疑態(tài)度?！?/p>（責(zé)任編輯：冀文超 ）

關(guān)鍵詞：