4月28日，由北京市科學技術委員會、中關村科技園區管理委員會與NaturePortfolio主辦，北京科技創新促進中心承辦的2024中關村論壇年會平行論壇“數字化促進大型企業創新——AI賦能產業發展”論壇在京舉辦。

全球著名出版機構施普林格·自然集團科研智訊副總裁達瑞納·哈維爾（DarenHowell）在演講中對人工智能研究如何轉化為產業進行分析，他認為，人工智能作為創新催化劑這一角色的不斷發展，以對海量知識、信息和數據的分析、結構化為開端，實現信息流的重塑，有助于提高效率，推動創新，融入現實場景，推動產業變革。

論壇期間，圍繞人工智能(AI)對科研領域產生的影響，《》記者對哈維爾進行了專訪。

AI幻覺其實是可以受控的

NBD：由于技術原因，大模型有時會出現編造信息、“一本正經地胡說八道”的AI幻覺現象。如果AI幻覺出現在追求嚴謹和精確的科學研究領域，后果可能會非常嚴重。您認為這樣的AI幻覺有可能得到解決嗎？

哈維爾接受每經記者專訪每經記者石雨昕攝

哈維爾：我們發現AI幻覺其實是可以受到控制的，關鍵是要給大型語言模型提供準確的信息，并告訴它們根據準確的信息來回答問題。

假設我去年讀過一本書，而你今天問我這本書的情況，我可能會弄錯一些細節。但如果這本書就擺在我面前，我就可以看著書頁進行詳細說明。因此，如果利用大型語言模型進行同樣的處理，可以在很大程度上控制AI幻覺，但你始終需要一個人來檢查并對輸出結果負責，因為這涉及質量控制和所有權問題。

NBD：您認為能徹底解決這個問題嗎？我們能否100%信任大模型產出的文本？

哈維爾：如果你將大型語言模型與事實相結合，并要求它們檢索這些事實，那么我認為會有一個解決方案。大模型在回憶事實方面會和很多人一樣好，但人類自己都不一定能準確記住所有事情，所以我認為對于大模型而言，100%的信任其實是一個很高的標準。

NBD：近年來，隨著人工智能的發展，利用人工智能代寫論文、數據造假等學術不端行為層出不窮，您如何看待這一問題？

哈維爾：抄襲等學術造假行為歷來存在，但大型語言模型的興起使之更為普遍且易于操作。作為全球知名出版機構，我們向來非常重視學術造假的問題。

一方面，我們長期運用人工智能技術進行文本查重及侵權識別，有效遏制學術造假現象；另一方面，當人們發表文章時，有且只有一個作者，作者是有聲譽的，他們也需要考慮保護聲譽這一問題。

因此，我想對作者們說，如果文章用到AI，請確保你自己清楚這一點，抄襲、數據造假等學術不端行為都是我們利用技術手段可以檢測出來的。

實際上，我們利用人工智能檢測論文抄襲、學術不端、存在造假等行為有很長一段時間，隨著技術進步，近期，我們在檢測由AI生成的無意義或虛假論文方面取得新突破。

例如，可以利用人工智能檢測那些利用大模型生成的“胡說八道”的論文，正如上面提到，人工智能被用來生成文本時可能會生成沒有意義的文本，而通過我們的方法就能夠甄別出利用大模型編造的不實內容。實際過程中我們也會輔以人工審查，但不可否認的是，AI能提高工作效率，幫助我們優化解決方法。

開發科技文獻大模型的核心在于數據及運算

NBD：您認為開發科技文獻大模型的核心是在哪些地方？

哈維爾：數據和數據運算，這兩個是至關重要的。

目前在創新方面，有些領域擁有適用AI的優質數據。比如我們可以用語言模型學習表示蛋白質的功能特性，然而我們還沒有看到在材料方面有如此巨大的進步，因為材料的化學結構并不適合大型語言模型。

我認為這可能會在未來得到解決，因為一旦有了大量的訓練，你就有了可以預測的數據，而通過大量計算，算法就能夠取得實質性的進步，新的算法就會出現。

NBD：目前，人工智能給科學研究領域帶來哪些變化？

哈維爾：許多人花在寫作上的時間更少了，或者他們能夠用不同的語言寫作，不局限在第一語言，甚至可能是編碼，比如計算機編碼，這讓他們在工作流程中變得更有效率。

行業領先企業擁有大量數據和強大的計算能力，他們可以將這兩樣東西結合在一起，創造出許多我們過去難以實現的創新。過去因為數據太多，一個人根本無法理解，但大型語言模型和其他類型的人工智能可以利用所有這些信息實現創新。

NBD：我們面臨的挑戰不僅在于理解創新，也在于準確衡量創新。您認為應該如何衡量創新？

哈維爾：我認為衡量創新的標準是影響力。創新關乎著我們如何能擁有更好的環境，如何能治愈不同的疾病，如何能改善交通，如何能減少能源使用或創造能源。

對我們出版機構而言，衡量影響的標準是科研創新如何造福于社會和人類。例如，你可以看到某些疾病的治療效果有所改善，通過研究、通過創新，治療癌癥成功率有所提高，可以利用這一點來衡量科研創新的影響。

版權所有