2024年11月14日，歐盟人工智能辦公室(AI0fice)正式發(fā)布《通用人工智能行為準(zhǔn)則》(General-PurposeAICodeofPractice)草案，為通用人工智能模型的發(fā)展和應(yīng)用提供指導(dǎo)框架，確保其符合歐盟的法律要求和價(jià)值觀。該草案由四個(gè)工作組協(xié)作編寫(xiě)，旨在為通用人工智能模型提供商和具有系統(tǒng)風(fēng),險(xiǎn)的通用人工智能模型提供商提供指導(dǎo),以確保其遵守歐盟相關(guān)法律，促進(jìn)人工智能的安全和可持續(xù)發(fā)展。該草案涵蓋了透明度、版權(quán)、風(fēng)險(xiǎn)分類、風(fēng)險(xiǎn)評(píng)估與緩解等多方面規(guī)則，并遵循一系列起草原則，歐盟AI法案于2024年8月1日生效，規(guī)定準(zhǔn)則最終版本應(yīng)于2025年5月1日前準(zhǔn)備就緒。該草案是在參考眾多利益相關(guān)者意見(jiàn)、國(guó)際方法以及相關(guān)法律和研究的基礎(chǔ)上制定的。

起草計(jì)劃與原則與歐盟原則和價(jià)值觀保持一致：確保措施、子措施和關(guān)鍵績(jī)效指標(biāo)(KPI)符合歐盟法律所體現(xiàn)的一般原則和價(jià)值觀，與AI法案和國(guó)際方法保持一致：促進(jìn)A1法案的適當(dāng)應(yīng)用，參考國(guó)際方法(如AI安全機(jī)構(gòu)或標(biāo)準(zhǔn)制定組織制定的標(biāo)準(zhǔn)或指標(biāo))。風(fēng)險(xiǎn)相稱性：措施應(yīng)與風(fēng)險(xiǎn)相稱，對(duì)更重大或不確定的嚴(yán)重風(fēng)險(xiǎn)采取更嚴(yán)格措施，子措施和KPI應(yīng)具體、明確，避免規(guī)避或錯(cuò)誤指且根據(jù)風(fēng)險(xiǎn)類型、分布策略和部署環(huán)境等因素進(jìn)行區(qū)分。

面向未來(lái)：子措施和KPI應(yīng)能適應(yīng)技術(shù)發(fā)展，確保AI辦公室能夠基于更優(yōu)信息評(píng)估合規(guī)性，同時(shí)在具體要求與靈活性之間取得平衡與提供商規(guī)模相稱：考慮通用人工智能模型提供商規(guī)模，為中小企業(yè)和初創(chuàng)企業(yè)提供適當(dāng)簡(jiǎn)化的合規(guī)方式支持人工智能安全生態(tài)系統(tǒng)的發(fā)展與成長(zhǎng)：鼓勵(lì)利益相關(guān)者合作，共享知識(shí)和最佳實(shí)踐，支持開(kāi)源模型對(duì)生態(tài)系統(tǒng)的積影響。

二、通用人工智能模型提供商規(guī)則

1.透明度要求

文檔編制：提供商需為AI辦公室和下游提供商編制并更新模型技術(shù)文檔，包括模型基本信息、預(yù)期任務(wù)、使用政策、發(fā)布日期、交互方式、架構(gòu)參數(shù)、輸入輸出模態(tài)、許可證、集成技術(shù)手段、訓(xùn)練過(guò)程、數(shù)據(jù)信息、計(jì)算資源、能耗等內(nèi)容。鼓勵(lì)考慮向公眾披露部分信息以提高透明度。

附錄:可接受使用政策(AUP)：AUP應(yīng)至少包含目的聲明、范圍、主要預(yù)期用途和用戶、可接受和不可接受用途、安全措施、監(jiān)控與隱私、警告和賬戶處理流程、致謝等要素，確保與提供商描述模型用途和能力的材料一致，并向下游提供商提供必要信息.。

2.版權(quán)相關(guān)規(guī)則

制定版權(quán)政策：提供商應(yīng)制定政策以遵守歐盟版權(quán)及相關(guān)權(quán)利法律，涵蓋模型整個(gè)生命周期，明確責(zé)任，進(jìn)行上游和下游版權(quán)合規(guī)管理(下游版權(quán)措施不適用于中小企業(yè))。遵守文本和數(shù)據(jù)挖掘(TDM)例外限制:進(jìn)行TDM時(shí),需確保合法獲取受版權(quán)保護(hù)的內(nèi)容,遵守權(quán)利保留規(guī)定，包括遵循robots.tx確保搜索引擎可發(fā)現(xiàn)性、采用行業(yè)標(biāo)準(zhǔn)識(shí)別權(quán)利保留、參與標(biāo)準(zhǔn)制定討論、排除盜版來(lái)源等措施(部分子措施不適用干中小企業(yè))。透明度:公開(kāi)版權(quán)保留合規(guī)措施信息，包括爬蟲(chóng)名稱和robots.txt特征,指定聯(lián)系人處理版權(quán)投訴，記錄數(shù)據(jù)來(lái)源和授權(quán)信息以供AI辦公室監(jiān)測(cè)。

三、系統(tǒng)風(fēng)險(xiǎn)分類

1. 風(fēng)險(xiǎn)類型：包括網(wǎng)絡(luò)攻擊、化學(xué)/生物/放射/核風(fēng)險(xiǎn)、失控、自動(dòng)化模型研發(fā)、說(shuō)服與操縱、大規(guī)模歧視等，提供商可識(shí)別其他潛在系統(tǒng)風(fēng)險(xiǎn)。

2. 風(fēng)險(xiǎn)性質(zhì)：涉及風(fēng)險(xiǎn)起源、驅(qū)動(dòng)因素、意圖、新穎性、概率-嚴(yán)重性比、風(fēng),險(xiǎn)實(shí)現(xiàn)速度、可見(jiàn)性、事件發(fā)展過(guò)程等維度,

3. 風(fēng)險(xiǎn)來(lái)源

危險(xiǎn)模型能力：如網(wǎng)絡(luò)攻擊、武器相關(guān)能力、自主性、說(shuō)服力、規(guī)劃能力等，這些能力雖有有益用途，但也可能引發(fā)系統(tǒng)風(fēng)險(xiǎn),。

危險(xiǎn)模型傾向：如與人類意圖/價(jià)值觀不一致、欺騙傾向、偏見(jiàn)、不可靠性、追求目標(biāo)等。

模型功能和社會(huì)技術(shù)背景：包括去除防護(hù)措施潛力、工具訪問(wèn)、模態(tài)、發(fā)布策略、人為監(jiān)督、模型泄露、用戶數(shù)量、攻防平衡、社會(huì)脆弱性、缺乏解釋性、技術(shù)成熟度、反饋循環(huán)等。

四、具有系統(tǒng)風(fēng)險(xiǎn)的通用人工智能模型提供商規(guī)則

1.安全與保障框架(SSF)：提供商應(yīng)采用、實(shí)施并公開(kāi)SSF，根據(jù)預(yù)期系統(tǒng)風(fēng)險(xiǎn)嚴(yán)重程度確定其全面性，用于主動(dòng)評(píng)估和緩解系統(tǒng)風(fēng)險(xiǎn)。

2.風(fēng),險(xiǎn)評(píng)估風(fēng)險(xiǎn)識(shí)別：持續(xù)徹底識(shí)別可能源于模型的系統(tǒng)風(fēng)險(xiǎn)，參考風(fēng)險(xiǎn)分類確定相關(guān)風(fēng)險(xiǎn)風(fēng)險(xiǎn)分析:使用可靠方法分析風(fēng)險(xiǎn)路徑、映射風(fēng)險(xiǎn)指標(biāo)、確定風(fēng),險(xiǎn)嚴(yán)重程度層級(jí)、預(yù)測(cè)風(fēng)險(xiǎn)發(fā)生時(shí)間。證據(jù)收集:持續(xù)收集模型特定系統(tǒng)風(fēng)險(xiǎn)證據(jù),包括模型無(wú)關(guān)證據(jù)、最佳實(shí)踐評(píng)估、確?？茖W(xué)嚴(yán)謹(jǐn)性、充分挖掘模型能力、在不同系統(tǒng)中評(píng)估、進(jìn)行多樣化評(píng)估和探索性工作、分享工具和最佳實(shí)踐、透明報(bào)告評(píng)估結(jié)果等，部分工作可與第三方合作或外包。風(fēng)險(xiǎn)評(píng)估生命周期：在模型開(kāi)發(fā)和部署的全生命周期持續(xù)評(píng)估風(fēng)險(xiǎn)和收集證據(jù)，包括訓(xùn)練前準(zhǔn)備、訓(xùn)練中定期收集、部署期間定期更新評(píng)估、部署后監(jiān)測(cè)，根據(jù)不同階段和風(fēng)險(xiǎn)情況調(diào)整評(píng)估方式

3.技術(shù)風(fēng)險(xiǎn)緩解

緩解措施：在SSF中詳細(xì)說(shuō)明從風(fēng),險(xiǎn)指標(biāo)到安全和保障緩解措施的映射,包括安全和安全緩解措施(根據(jù)風(fēng)險(xiǎn)程度實(shí)施，如行為修改、系統(tǒng)部署防護(hù)、提供反制措施)，明確現(xiàn)有緩解措施的局限性和評(píng)估映射充分性的過(guò)程。

安全與保障報(bào)告(SSR)：創(chuàng)建SSR記錄風(fēng)險(xiǎn)和緩解評(píng)估，內(nèi)容包括風(fēng),險(xiǎn)評(píng)估結(jié)果、緩解措施評(píng)估結(jié)果、成本效益分析、方法細(xì)節(jié)

內(nèi)部審查結(jié)果等，確保報(bào)告與風(fēng)險(xiǎn)程度相稱且內(nèi)部外部一致。開(kāi)發(fā)與部署決策：基于SSR建立決策流程，確定繼續(xù)或停止模型開(kāi)發(fā)和部署的條件,包括不繼續(xù)的條件、繼續(xù)的條件(如改進(jìn)緩解措施或進(jìn)行成本效益分析)以及外部輸入和決策要求。

4.治理風(fēng)險(xiǎn)緩解

系統(tǒng)風(fēng)險(xiǎn)所有權(quán)：確保組織各級(jí)對(duì)系統(tǒng)風(fēng)險(xiǎn)有足夠的所有權(quán)，包括在執(zhí)行和董事會(huì)層面分配責(zé)任和資源(可考慮根據(jù)提供商規(guī)?；蚱渌卣髡{(diào)整)。

遵守和充分性評(píng)估:每年評(píng)估SSF的遵守和充分性，考慮計(jì)劃活動(dòng)并向董事會(huì)報(bào)告，明確評(píng)估應(yīng)回答的問(wèn)題和充分性定義。

獨(dú)立專家系統(tǒng)風(fēng)險(xiǎn)和緩解評(píng)估:在模型生命周期中適當(dāng)進(jìn)行獨(dú)立專家評(píng)估，包括部署前充分測(cè)試和部署后允許獨(dú)立研究,評(píng)估內(nèi)容包括模型能力、證據(jù)、風(fēng)險(xiǎn)和緩解措施，評(píng)估應(yīng)根據(jù)風(fēng)險(xiǎn)程度和性質(zhì)進(jìn)行調(diào)整(明確第三方評(píng)估機(jī)構(gòu)標(biāo)準(zhǔn)、支持中小企業(yè)評(píng)估、確定獨(dú)立測(cè)試的適當(dāng)情況)。

嚴(yán)重事件報(bào)告:識(shí)別、跟蹤、記錄和及時(shí)報(bào)告源于模型的嚴(yán)重事件及可能的糾正措施，建立報(bào)告和響應(yīng)流程，明確嚴(yán)重事件定義、間接導(dǎo)致情況、報(bào)告條件和可能的糾正措施(針對(duì)開(kāi)源或開(kāi)放權(quán)重提供商的措施)。

舉報(bào)保護(hù)：實(shí)施舉報(bào)渠道并提供保護(hù)，告知員工舉報(bào)郵箱，考慮在準(zhǔn)則中明確歐盟舉報(bào)人指令的相關(guān)內(nèi)容

通知：向AI辦公室通知模型分類、SSE、SSR和重大系統(tǒng)風(fēng)險(xiǎn)等相關(guān)信息，包括在訓(xùn)練前估計(jì)計(jì)算能力并通知、確保AI辦公室獲取SSF和SSR、在特定情況下通知重大風(fēng)險(xiǎn)，明確通知的具體要求和相關(guān)標(biāo)準(zhǔn)。

文檔記錄：記錄與遵守準(zhǔn)則和AI法案相關(guān)的證據(jù)，包括模型風(fēng)險(xiǎn)分類、SSF、SSR等信息,考慮制定標(biāo)準(zhǔn)化模板以降低合規(guī)成本。

公共透明度：通過(guò)發(fā)布SSF和SSR提供適當(dāng)公共透明度，幫助生態(tài)系統(tǒng)理解和緩解風(fēng)險(xiǎn)，明確可能增加系統(tǒng)風(fēng)險(xiǎn)或泄露敏感信息的情況，考慮公共透明度的類型、水平和負(fù)擔(dān)。

轉(zhuǎn)載鏈接：http://www.tbtsps.cn/news/1/73FE2386E3495EF8

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。