春節(jié)前后，AI（人工智能）視頻生成模型Seedance2.0火爆全球，智能機(jī)器人刷屏網(wǎng)絡(luò)……人工智能技術(shù)以前所未有的速度融入生產(chǎn)生活，也深刻變革著科研范式。與此同時(shí)，人工智能也帶來(lái)了科研造假更隱蔽、邊界更模糊等新挑戰(zhàn)。
“十五五”規(guī)劃建議提出，加強(qiáng)科技法治、倫理、誠(chéng)信、安全建設(shè)。如何在智能時(shí)代筑牢安全防線(xiàn)、堅(jiān)守科研誠(chéng)信，成為全國(guó)兩會(huì)期間會(huì)場(chǎng)內(nèi)外熱議的話(huà)題。
“在回答你的這個(gè)問(wèn)題前，我還真用人工智能對(duì)答復(fù)做了優(yōu)化?！?月6日，全國(guó)政協(xié)委員、中國(guó)鐵道科學(xué)研究院集團(tuán)有限公司首席科學(xué)家趙紅衛(wèi)告訴記者，諸如DeepSeek、豆包等智能工具“很好用”，尤其對(duì)提高工作效率、增強(qiáng)個(gè)人能力大有裨益。趙紅衛(wèi)直言，科研人員應(yīng)以積極開(kāi)放的心態(tài)擁抱人工智能技術(shù)。
“但是，我們?cè)趽肀У耐瑫r(shí)，還要理性使用、守住底線(xiàn)?！壁w紅衛(wèi)表示，不能讓人工智能直接輸出控制指令，其中必須有人的參與和決策。
趙紅衛(wèi)告訴記者，鐵路行業(yè)正在積極建設(shè)行業(yè)大模型。在她看來(lái)，大模型必須實(shí)現(xiàn)可解釋、可追溯、可驗(yàn)證，不能是個(gè)“黑箱”?！敖煌ㄐ袠I(yè)安全為先，涉及行車(chē)安全的關(guān)鍵決策，必須由人主導(dǎo)、由人負(fù)責(zé)?！壁w紅衛(wèi)說(shuō)。
從行業(yè)大模型到通用智能體，AI成為科研工作的重要助手。與此同時(shí)，科研誠(chéng)信的挑戰(zhàn)也隨之增大。譬如，學(xué)術(shù)不端行為更加隱蔽、方法的可靠性也存在風(fēng)險(xiǎn)，這需要主管部門(mén)、科研單位與科研人員協(xié)同發(fā)力、系統(tǒng)解決。
讓人欣喜的是，國(guó)內(nèi)科研機(jī)構(gòu)與高校在制度規(guī)范層面已經(jīng)“出手”。如中國(guó)科學(xué)院發(fā)布《關(guān)于規(guī)范使用人工智能技術(shù)的誠(chéng)信提醒》，明確全流程AI使用紅線(xiàn)；清華大學(xué)發(fā)布《清華大學(xué)人工智能教育應(yīng)用指導(dǎo)原則》，系統(tǒng)性地對(duì)校園中的人工智能應(yīng)用提出全局性、分層級(jí)的引導(dǎo)與規(guī)范。
“這些制度規(guī)范，秉持‘積極而審慎’的立場(chǎng)，倡導(dǎo)科研人員辯證認(rèn)識(shí)人工智能技術(shù)，培養(yǎng)個(gè)人核心素養(yǎng)?！鼻迦A大學(xué)生物醫(yī)學(xué)工程學(xué)院副教授戴小川說(shuō)。
人工智能賦能千行百業(yè)，AI技術(shù)在監(jiān)管領(lǐng)域也能大顯身手。戴小川表示，用“魔法”打敗“魔法”不失為一種保證科研誠(chéng)信的管理策略。如今，第三方評(píng)估機(jī)構(gòu)已開(kāi)始應(yīng)用AI檢測(cè)模型、論文可追溯技術(shù)來(lái)識(shí)別學(xué)術(shù)造假行為，科研用AI可解釋模型也在加快研發(fā)。
面向“十五五”，戴小川建議，堅(jiān)持技術(shù)與制度雙輪驅(qū)動(dòng)，以“強(qiáng)制披露+可追溯技術(shù)”重建科研過(guò)程透明度，加快構(gòu)建人工智能時(shí)代的科研誠(chéng)信新生態(tài)。他還呼吁，加快推動(dòng)國(guó)際統(tǒng)一的AI科研誠(chéng)信標(biāo)準(zhǔn)建設(shè)，共同防范跨區(qū)域?qū)W術(shù)不端，讓人工智能在誠(chéng)信、規(guī)范的軌道上更好賦能科技創(chuàng)新。
編輯：李華山
