2023世界人工智能大會分會場張江科學會堂與在建的張江科學之門。 本報記者 范家樂攝

完美的大模型存在嗎？技術的發(fā)展如何建立倫理和治理機制？能不能通過強化學習完善通用人工智能？在今年世界人工智能大會現(xiàn)場，多位圖靈獎得主匯聚一堂，這些學術大咖用各自的視角審視人工智能的未來發(fā)展，既仰望星辰大海，也對腳踏實地的現(xiàn)實問題提出了具體的建議。

(相關資料圖)

讓AI安全良善實用，唯一方法是開源

楊立昆（圖靈獎得主，Meta AI基礎人工智能研究院團隊首席人工智能科學家）

AI最讓人激動的進展是創(chuàng)造了一場技術的革命。我認為，自然語言處理，如語言模型、語音模型等符號或者本質(zhì)上和符號序列有關的技術正在創(chuàng)造一場革命，而現(xiàn)在要做的就是在圖像和視頻領域推動同樣的生成式革命。

讓AI達到人類水平的最好辦法，就是做更大的自回歸LLM（大語言模型），而讓它變智能也是讓它更可控的途徑。人們通過目標驅(qū)動人工智能的理念，就可以設置其它目標，作為其安全護欄，比如讓這些系統(tǒng)不會出現(xiàn)欺騙、支配人類的行為，迫使AI誠實的目標，屈從于人類的目標，而需要小心那些讓模型好奇的目標等。設計這些目標，讓系統(tǒng)安全，將會是一個艱巨的工程挑戰(zhàn)。

有些人因為害怕人工智能的結(jié)果，整體上就希望人工智能受到嚴格監(jiān)管。我完全不同意這種說法。從長遠看，使人工智能平臺安全、良善、實用的唯一方法就是開源。

想象一下，未來每個人都能通過AI助手與數(shù)字世界互動，如果技術被少數(shù)公司控制，這不是一件好事。未來AI系統(tǒng)將成為人類所有知識的寶庫，訓練它們的方式需要基于眾多來源。因此，我們將在未來看到更多的開源LLM和更多的開源人工智能系統(tǒng)。

中國年輕學者已在算法上取得突破

姚期智（圖靈獎得主，中國科學院院士、清華大學交叉信息研究院院長）

中國的科學家在AI發(fā)展上作了很多突破性的貢獻，清華大學交叉信息研究院助理教授高陽一年多前在算法上實現(xiàn)了非常重要的突破，使得強化學習加快數(shù)百倍，受到國際關注。

在ChatGPT之后，人工智能研究的下一個重要目標是讓擁有多重感知能力的機器人在不同的環(huán)境下能夠自主學習新技能?，F(xiàn)有的強化學習方式太慢了，學習新技術常常要幾個月時間。得益于高陽的研究，強化學習現(xiàn)在只要幾個小時就能完成。

這不僅解決了實用問題，也是作出了理論貢獻。過去六七年，人工智能最高層一直存在一個“路線之爭”，就是要不要走強化學習這條路。而中國青年學者的突破，將這個爭論的天平傾向了另一邊。而對于通用人工智能的完善，我們還有很長的路要走。

至于大模型在垂直領域的應用，很多文書工作在有了大語言模型之后變得更輕松，更多的工作可以嘗試由機器來做，這會是一個直接的方向。

良好發(fā)展的大模型要減少數(shù)倍能耗

大衛(wèi)·帕特森（圖靈獎得主，美國藝術與科學院、國家科學院、國家工程院院士）

谷歌在過去十年左右時間里，宣布了5種不同的TPU產(chǎn)品（為機器學習定制的專用芯片），它們的性能相差達到3倍，最近又用新技術研制了超級計算機。

事實上，在碳排放方面，我們已經(jīng)學到了很多經(jīng)驗教訓。

首先，我們要做的是計算能源消耗。能源消耗只需要一個簡單的公式，還有4個因素——一個是模型訓練所花費的時間，還有處理器的數(shù)量以及處理器平均功率，這樣我們就能獲得一個大致的能源消耗數(shù)據(jù)；最后一個因素則是數(shù)據(jù)中心的電力。把這4個因素相乘，就可以得到以千瓦時為單位的能量。而轉(zhuǎn)化為碳排放，需要取一個系數(shù)，即每千瓦時的碳排放量。

我們有很多方式來嘗試減少碳排放量。首先是提高技術。此前谷歌幾位工程師想出辦法改變模型的質(zhì)量和硬件參數(shù)，讓能源消耗和碳排放減少了57倍。

如果你是一個人工智能領域的從業(yè)者或研究人員，請繼續(xù)對大模型的改良和研究，這將可以減少2到4倍的能源和排放。統(tǒng)計出訓練模型的能耗和碳足跡，是為了讓我們更好地競爭，以便于建立更有效的模型、得到正確的數(shù)字，幫助世界繼續(xù)推出高效的硬件。

作者：周淵

編輯：范菁

*文匯獨家稿件，轉(zhuǎn)載請注明出處。

關鍵詞：