近年來，隨著數(shù)據(jù)資源的廣泛可用、計(jì)算能力的飛躍以及機(jī)器學(xué)習(xí)的進(jìn)步，人工智能技術(shù)取得了突飛猛進(jìn)的發(fā)展。特別是基礎(chǔ)模型的開發(fā)催生了所謂的“通用人工智能”。這些模型能夠執(zhí)行多樣化任務(wù)，包括創(chuàng)造各種新內(nèi)容（如文本、代碼、圖像等），我們稱之為“生成式人工智能”。它們通常根據(jù)用戶輸入的指令（提示）來生成內(nèi)容，其質(zhì)量之高，以至于很難將其與人類生成的內(nèi)容進(jìn)行區(qū)分。

生成式人工智能的廣泛而快速的應(yīng)用引發(fā)了人們的廣泛關(guān)注以及廣泛的政策和機(jī)構(gòu)回應(yīng)。其中包括歐盟在《人工智能法案》以及七國集團(tuán)主導(dǎo)的《布萊切利宣言》。生成式人工智能為各行各業(yè)帶來了無限可能。尤其是在科學(xué)研究領(lǐng)域，人工智能的潛力巨大，它能夠加速科學(xué)發(fā)現(xiàn)，提高研究效率和驗(yàn)證過程的速度。然而，它也伴隨著風(fēng)險(xiǎn)，比如大量制造虛假信息，以及其他可能對(duì)社會(huì)產(chǎn)生重大影響的不道德用途；此外，技術(shù)的濫用也可能導(dǎo)致研究的不端行為和錯(cuò)誤信息的傳播。

一、指南的核心原則

這些指導(dǎo)方針基于現(xiàn)有的相關(guān)框架，如《歐洲研究誠信行為準(zhǔn)則》和《高級(jí)別專家制定的關(guān)于可信賴人工智能的工作和指南》。它們強(qiáng)調(diào)了研究質(zhì)量的可靠性、透明度、公平性、徹底性和公正性，以及尊重同事、研究參與者和社會(huì)的原則。

二、關(guān)于在科學(xué)研究中負(fù)責(zé)任地使用生成式人工智能的指導(dǎo)原則

 (一)對(duì)科研人員的建議

1. 對(duì)科研成果負(fù)最終責(zé)任。

a) 科研人員對(duì)由人工智能工具生成或在其支持下生成的內(nèi)容的完整性負(fù)責(zé)。

b) 科研人員在使用生成式人工智能所產(chǎn)生的結(jié)果時(shí)應(yīng)保持批判的態(tài)度，并意識(shí)到這些工具的局限性，如偏差、幻覺和不準(zhǔn)確性。

c) 人工智能系統(tǒng)既不是作者，也不是共同作者。作者身份意味著代理權(quán)和責(zé)任，因此它屬于人類科研人員。

d) 科研人員不會(huì)在科學(xué)研究過程中使用生成式人工智能制作的材料，例如偽造、篡改或操縱原始研究數(shù)據(jù)。

2. 透明地使用生成式人工智能。

a) 為透明起見，科研人員應(yīng)詳細(xì)說明在其研究過程中主要使用了哪些生成式人工智能工具。提到的工具可包括名稱、版本、日期等，以及它是如何被使用并對(duì)研究過程產(chǎn)生影響的。如果相關(guān)，研究人員應(yīng)根據(jù)開放科學(xué)原則提供輸入（提示）和輸出。

b) 科研人員考慮到了生成式人工智能工具的隨機(jī)性，即相同的輸入會(huì)產(chǎn)生不同的輸出?？蒲腥藛T力求結(jié)果和結(jié)論的可重復(fù)性和穩(wěn)健性。他們披露或討論所使用的生成式人工智能工具的局限性，包括生成內(nèi)容中可能存在的偏差，以及可能的緩解措施。

3. 在與人工智能工具共享敏感或受保護(hù)信息時(shí)，要特別注意與隱私、保密和知識(shí)產(chǎn)權(quán)相關(guān)的問題。

a) 科研人員應(yīng)注意到，生成或上傳的輸入（文本、數(shù)據(jù)、提示、圖像等）可能會(huì)被用于其他目的，如訓(xùn)練人工智能模型。因此，他們要保護(hù)未發(fā)表或敏感的作品（如自己或他人未發(fā)表的作品），注意不要將其上傳到在線人工智能系統(tǒng)中，除非能保證這些數(shù)據(jù)不會(huì)被重復(fù)使用。

b) 科研人員應(yīng)注意不向在線生成式人工智能系統(tǒng)提供第三方的個(gè)人數(shù)據(jù)，除非得到數(shù)據(jù)主體（個(gè)人）的同意，且應(yīng)遵守歐盟數(shù)據(jù)保護(hù)規(guī)則確保符合歐盟數(shù)據(jù)保護(hù)規(guī)則。

c) 科研人員應(yīng)了解有關(guān)隱私、保密和知識(shí)產(chǎn)權(quán)的技術(shù)和道德影響。例如，檢查工具的隱私選項(xiàng)、工具的管理者（公共或私營機(jī)構(gòu)、公司等）、工具的運(yùn)行地點(diǎn)以及對(duì)上傳信息的影響。這可能包括封閉環(huán)境、在第三方基礎(chǔ)設(shè)施上托管并保證隱私，也可能包括開放的互聯(lián)網(wǎng)訪問平臺(tái)。

4. 在使用生成式人工智能時(shí)，要像在常規(guī)研究活動(dòng)中一樣，尊重適用的國家、歐盟和國際立法。特別是，生成式人工智能所產(chǎn)出的成果在知識(shí)產(chǎn)權(quán)和個(gè)人數(shù)據(jù)保護(hù)方面可能特別敏感。

a) 科研人員在使用生成式人工智能的輸出結(jié)果時(shí)，要注意剽竊（文本、代碼、圖像等）的可能性?？蒲腥藛T要尊重他人的著作權(quán)，并在適當(dāng)時(shí)引用他人的作品。生成式人工智能的輸出（如大型語言模型）可能基于他人的成果，需要適當(dāng)識(shí)別和引用。

b) 生成式人工智能產(chǎn)生的輸出可能包含個(gè)人數(shù)據(jù)。如果出現(xiàn)這種情況，科研人員有責(zé)任負(fù)責(zé)任地妥善處理輸出的任何個(gè)人數(shù)據(jù)，并遵守歐盟數(shù)據(jù)保護(hù)規(guī)則。

5. 通過培訓(xùn)等方式，不斷學(xué)習(xí)如何正確使用生成式人工智能工具，以最大限度地發(fā)揮其優(yōu)勢。生成式人工智能工具發(fā)展迅速，新的使用方法不斷被發(fā)現(xiàn)?？蒲腥藛T要及時(shí)了解最佳實(shí)踐，并與同事和其他利益相關(guān)者分享。

6. 避免在可能影響其他科研人員或組織的敏感活動(dòng)中大量使用人工智能生成工具（例如同行評(píng)審、研究提案評(píng)估等）。

a) 避免使用生成式人工智能工具，可消除這些工具的局限性（如幻覺和偏見）可能導(dǎo)致的不公平待遇或評(píng)估的潛在風(fēng)險(xiǎn)。

b) 此外，這樣做還可以保護(hù)科研人員未發(fā)表的原創(chuàng)作品，使其免于暴露或被納入人工智能模型。

（二）對(duì)科研機(jī)構(gòu)的建議

1.促進(jìn)、指導(dǎo)和支持在研究活動(dòng)中負(fù)責(zé)任地使用生成式人工智能。

a) 科研機(jī)構(gòu)提供和/或促進(jìn)關(guān)于使用生成式人工智能的培訓(xùn)，特別是（但不限于）關(guān)于驗(yàn)證輸出、維護(hù)隱私、解決偏見和保護(hù)知識(shí)產(chǎn)權(quán)的培訓(xùn)。

b) 科研機(jī)構(gòu)提供支持和指導(dǎo)，確保符合道德和法律要求（歐盟數(shù)據(jù)保護(hù)規(guī)則、知識(shí)產(chǎn)權(quán)保護(hù)等）。

2. 積極監(jiān)督組織內(nèi)生成式人工智能系統(tǒng)的開發(fā)和使用情況。

a) 科研機(jī)構(gòu)始終關(guān)注其使用生成式人工智能的研究活動(dòng)和流程，以便更好地支持其未來的使用。以便為使用生成式人工智能提供進(jìn)一步指導(dǎo)、幫助確定培訓(xùn)需求，并了解哪種支持最有益；幫助預(yù)測和防范人工智能工具可能被誤用和濫用；出版并與科學(xué)界共享。

b) 科研究機(jī)構(gòu)分析技術(shù)和工具的局限性，并向其科研人員提供反饋和建議。

3. 參考這些生成式人工智能指南，或?qū)⑵浼{入研究實(shí)踐和倫理的一般研究指南中。

a) 科研機(jī)構(gòu)以這些指導(dǎo)方針為討論基礎(chǔ)，就生成式人工智能的使用和相關(guān)政策公開征求研究人員和利益相關(guān)者的意見。

b) 科研機(jī)構(gòu)應(yīng)盡可能采用這些指導(dǎo)方針。如有必要，還可補(bǔ)充具體的附加建議和/或例外情況，并應(yīng)公布這些建議和/或例外情況，以提高透明度。

4. 在可能和必要的情況下，實(shí)施本地托管或基于云的生成式人工智能工具，由它們自己管理。這樣，員工就能將他們的科學(xué)數(shù)據(jù)輸入到一個(gè)能確保數(shù)據(jù)保護(hù)和保密性的工具中。各組織確保這些系統(tǒng)，特別是與互聯(lián)網(wǎng)連接的系統(tǒng)達(dá)到適當(dāng)?shù)木W(wǎng)絡(luò)安全水平。

（三）對(duì)科研資助組織的建議

資助組織在不同的背景下運(yùn)作，遵循不同的任務(wù)和規(guī)定，可能與單一的一套準(zhǔn)則不一致。以下是一些有效的做法，供各組織以最適合其具體情況和目標(biāo)的方式加以實(shí)施。

1. 促進(jìn)和支持在研究中負(fù)責(zé)任地使用生成式人工智能。

a) 科研資助組織設(shè)計(jì)的資助工具應(yīng)開放、樂于接受并支持在研究活動(dòng)中負(fù)責(zé)任地、合乎道德地使用生成式人工智能技術(shù)。

b) 科研資助組織應(yīng)要求受資助的研究和受資助者符合現(xiàn)有的國家、歐盟和國際立法（如適用）以及使用生成式人工智能的有益實(shí)踐。

c) 科研資助組織應(yīng)鼓勵(lì)研究人員和研究機(jī)構(gòu)以合乎道德和負(fù)責(zé)任的方式使用生成式人工智能，包括遵守法律和研究標(biāo)準(zhǔn)要求。

2. 審查生成式人工智能在其內(nèi)部流程中的使用情況。它們將確保以透明和負(fù)責(zé)任的方式使用人工智能，從而起到帶頭作用。

a) 根據(jù)強(qiáng)調(diào)責(zé)任和人為監(jiān)督的問責(zé)原則，科研資助組織仍對(duì)在其活動(dòng)中使用生成式人工智能負(fù)全部責(zé)任。

b) 科研資助組織應(yīng)以透明的方式使用生成式人工智能，特別是在與評(píng)估和評(píng)價(jià)目的管理有關(guān)的活動(dòng)中，并且不損害內(nèi)容的保密性和過程的公平性。

c) 在選擇生成式人工智能工具時(shí)，科研資助組織應(yīng)仔細(xì)考慮該工具是否符合質(zhì)量、透明度、完整性、數(shù)據(jù)保護(hù)、保密性和尊重知識(shí)產(chǎn)權(quán)的標(biāo)準(zhǔn)。

3. 要求科研項(xiàng)目申請(qǐng)者在使用生成式人工智能方面保持透明，以便于報(bào)告。

a) 科研項(xiàng)目申請(qǐng)者應(yīng)聲明在申報(bào)過程中是否使用了大量人工智能生成工具。

b) 科研項(xiàng)目申請(qǐng)者應(yīng)提供信息，說明生成式人工智能在提議和開展的研究活動(dòng)中的作用。

4. 關(guān)注并積極參與快速發(fā)展的生成式人工智能領(lǐng)域?？蒲匈Y助組織應(yīng)推動(dòng)并資助培訓(xùn)和教育計(jì)劃，以便在科學(xué)研究中以合乎道德和負(fù)責(zé)任的方式使用人工智能。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。