科技日?qǐng)?bào)記者 薛巖

“現(xiàn)在有了人工智能技術(shù)，編輯如果過(guò)多依靠人工智能來(lái)判斷文章價(jià)值，就會(huì)喪失自身的獨(dú)立作用，形成‘AI依賴癥’。”在7月10日舉辦的中國(guó)科協(xié)年會(huì)平行論壇——2025中國(guó)科技期刊發(fā)展論壇上，同方知網(wǎng)數(shù)字科技有限公司副總經(jīng)理、總編輯肖宏表示，要積極應(yīng)對(duì)AI深度介入學(xué)術(shù)出版帶來(lái)的新挑戰(zhàn)。

當(dāng)前，人工智能大模型技術(shù)迅猛發(fā)展，特別是生成式人工智能在文本理解和處理方面的突破，正深度融入科技期刊寫(xiě)作與出版領(lǐng)域，顯著提升學(xué)術(shù)出版服務(wù)效能。

肖宏表示，知網(wǎng)每天要加工文獻(xiàn)3萬(wàn)余篇，90%以上的文獻(xiàn)加工、編排和標(biāo)注工作都已實(shí)現(xiàn)機(jī)器智能完成。然而，當(dāng)AI深度介入知識(shí)生產(chǎn)核心環(huán)節(jié)，其引發(fā)的潛在風(fēng)險(xiǎn)也引發(fā)了學(xué)者們廣泛關(guān)注。

以審稿環(huán)節(jié)為例，人工智能技術(shù)可以快速搜索分析海量的文獻(xiàn)和網(wǎng)頁(yè)知識(shí)，進(jìn)行信息匯總與分析，為審稿人提供有價(jià)值的參考意見(jiàn)。但當(dāng)人工智能技術(shù)深度嵌入審稿流程，也可能會(huì)帶來(lái)稿件在發(fā)表前泄露的風(fēng)險(xiǎn)。

為此，肖宏建議，建立完善的數(shù)據(jù)安保措施和本地化向量庫(kù)，這樣既能確保數(shù)據(jù)不出境、保障安全，又能支持外部專家調(diào)用數(shù)據(jù)進(jìn)行審稿。

“過(guò)分地依賴人工智能可能會(huì)對(duì)學(xué)術(shù)創(chuàng)新構(gòu)成挑戰(zhàn)?！敝袊?guó)高?？萍计诳芯繒?huì)理事長(zhǎng)張鐵明表示，學(xué)術(shù)研究本質(zhì)是創(chuàng)新性勞動(dòng)，需要深層次思考。而人工智能生成內(nèi)容主要依賴歷史語(yǔ)料，也存在算法偏見(jiàn)，使用不當(dāng)不僅會(huì)有損于研究的創(chuàng)新性，還會(huì)引發(fā)學(xué)術(shù)誠(chéng)信、學(xué)術(shù)倫理等風(fēng)險(xiǎn)。

目前，針對(duì)生成式人工智能在學(xué)術(shù)出版中的應(yīng)用邊界、編輯把關(guān)尺度等核心問(wèn)題，行業(yè)尚未達(dá)成共識(shí)，這也成為規(guī)范其應(yīng)用、保障學(xué)術(shù)創(chuàng)新的重要難題。

“關(guān)鍵在于要制定明確的規(guī)則?！睆堣F明表示，目前，國(guó)內(nèi)的一些行業(yè)協(xié)會(huì)、出版機(jī)構(gòu)已經(jīng)制定人工智能應(yīng)用于學(xué)術(shù)出版的相關(guān)指南、規(guī)則，包括《學(xué)術(shù)出版中的AIGC使用邊界指南2.0》等。但在細(xì)節(jié)制定上仍需進(jìn)一步完善，包括明確界定“何種場(chǎng)景下可使用AI”“使用程度如何”等問(wèn)題。

這些具體規(guī)則的落地實(shí)施，也離不開(kāi)有效的技術(shù)監(jiān)管手段作支撐。

作為國(guó)內(nèi)的學(xué)術(shù)資源平臺(tái)之一，中國(guó)知網(wǎng)近年來(lái)在學(xué)術(shù)成果檢測(cè)方面進(jìn)行了積極探索。目前，知網(wǎng)已構(gòu)建覆蓋大量中英文獻(xiàn)及引文數(shù)據(jù)的學(xué)術(shù)大數(shù)據(jù)體系，并研發(fā)出一款生成式人工智能檢測(cè)工具，供學(xué)校和科研機(jī)構(gòu)使用。

“我們旨在為學(xué)校、機(jī)構(gòu)提供了一個(gè)客觀的檢測(cè)工具。”肖宏表示，至于具體的重復(fù)率、相似比閾值設(shè)定是否合適，還需要各單位根據(jù)自身學(xué)術(shù)標(biāo)準(zhǔn)和具體情況來(lái)確定。