2023年5月25日，美國(guó)微軟公司發(fā)布《人工智能治理：未來(lái)藍(lán)圖》報(bào)告，為生成式人工智能治理提出五點(diǎn)建議，希望通過(guò)公共政策、法律和法規(guī)來(lái)解決當(dāng)前正在出現(xiàn)的人工智能問(wèn)題：

美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）已經(jīng)根據(jù)國(guó)會(huì)在《2020年國(guó)家人工智能倡議法案》中的指示制定了新的人工智能安全框架，該框架確保了人工智能的安全性和可靠性，并促進(jìn)人工智能系統(tǒng)的可信性和負(fù)責(zé)任的開(kāi)發(fā)使用。該框架通過(guò)政府機(jī)構(gòu)、民間社會(huì)組織等多方主體之間的緊密合作、共識(shí)驅(qū)動(dòng)和透明協(xié)商共同研究形成。新人工智能風(fēng)險(xiǎn)管理框架為企業(yè)和政府采取行動(dòng)確保更安全地使用人工智能技術(shù)提供了堅(jiān)實(shí)的基礎(chǔ)。

人工智能系統(tǒng)應(yīng)當(dāng)部署有效的故障安全系統(tǒng)，故障安全系統(tǒng)應(yīng)當(dāng)與整體系統(tǒng)安全綜合方法相結(jié)合，注重有效的人類(lèi)監(jiān)督、彈性和穩(wěn)健性開(kāi)發(fā)。雖然不是每個(gè)潛在的人工智能場(chǎng)景都會(huì)帶來(lái)重大風(fēng)險(xiǎn)，但當(dāng)考慮到人工智能系統(tǒng)管理或控制電網(wǎng)、供水系統(tǒng)、應(yīng)急響應(yīng)和城市交通流量的基礎(chǔ)設(shè)施系統(tǒng)時(shí)，仍然需要“安全剎車(chē)”來(lái)確保這些系統(tǒng)在人類(lèi)的控制之下。對(duì)此，政府應(yīng)當(dāng)完成以下方面工作。一是政府應(yīng)該定義用于控制關(guān)鍵基礎(chǔ)設(shè)施的高風(fēng)險(xiǎn)人工智能系統(tǒng)的類(lèi)別，保證上述人工智能系統(tǒng)能夠安全制動(dòng)。二是政府應(yīng)該要求系統(tǒng)開(kāi)發(fā)商確保在設(shè)計(jì)人工智能系統(tǒng)控制關(guān)鍵基礎(chǔ)設(shè)施時(shí)設(shè)置內(nèi)置安全停止裝置。三是政府應(yīng)確保運(yùn)營(yíng)商能夠持續(xù)測(cè)試和監(jiān)控高風(fēng)險(xiǎn)系統(tǒng)，以確保為關(guān)鍵基礎(chǔ)設(shè)施供電的人工智能系統(tǒng)持續(xù)在人類(lèi)控制之下。四是要求控制指定關(guān)鍵基礎(chǔ)設(shè)施運(yùn)行的人工智能系統(tǒng)只部署在獲得許可的人工智能基礎(chǔ)設(shè)施中。

人工智能需要一個(gè)契合人工智能本身技術(shù)架構(gòu)的法律監(jiān)管架構(gòu)，需要根據(jù)不同行為者在管理人工智能技術(shù)的不同方面所扮演的角色，設(shè)置各類(lèi)監(jiān)管責(zé)任。對(duì)此，相關(guān)主體應(yīng)當(dāng)做以下工作。首先，人工智能開(kāi)發(fā)人員需要分享關(guān)于先進(jìn)人工智能模型的專業(yè)知識(shí)，以幫助政府確定監(jiān)管人工智能的門(mén)檻。其次，人工智能技術(shù)人員應(yīng)當(dāng)支持政府確定必須滿足的要求，以便獲得開(kāi)發(fā)或部署高性能人工智能模型的許可。第三，政府應(yīng)當(dāng)通過(guò)對(duì)用于測(cè)試或部署這些模型的人工智能數(shù)據(jù)中心的運(yùn)營(yíng)商施加許可要求，建立健全有效執(zhí)行高性能人工智能模型的許可制度。

安全與透明度之間的緊張關(guān)系是需要認(rèn)真討論的眾多人工智能政策問(wèn)題之一。對(duì)此，各方主體應(yīng)當(dāng)統(tǒng)籌考慮，在安全前提下加強(qiáng)人工智能透明度披露。首先，人工智能開(kāi)發(fā)者應(yīng)當(dāng)發(fā)布年度透明度報(bào)告，向公眾通報(bào)其負(fù)責(zé)任和安全管理人工智能的政策、系統(tǒng)、進(jìn)展和表現(xiàn)。其次，應(yīng)當(dāng)開(kāi)發(fā)一個(gè)開(kāi)放性的高風(fēng)險(xiǎn)人工智能系統(tǒng)的國(guó)家登記處，以便公眾了解這些系統(tǒng)的使用地點(diǎn)和方式。第三，在公眾與人工智能系統(tǒng)交互時(shí)，確保能夠向公眾清楚地傳達(dá)人工智能系統(tǒng)的能力和局限性。第四，在重要的場(chǎng)景中，要求對(duì)人工生成的內(nèi)容貼上標(biāo)簽，以便公眾就能“知道”他們正在接收的內(nèi)容。

即使善意的人們盡了最大的努力，技術(shù)變革也會(huì)不可避免地在前進(jìn)的道路上遇到不可預(yù)見(jiàn)的障礙。對(duì)此，人工智能能夠成為一種有效的工具，來(lái)解決上述問(wèn)題。因此，應(yīng)當(dāng)將政府、企業(yè)和非政府組織聯(lián)合起來(lái)，提供廣泛獲得人工智能技能的機(jī)會(huì)，并利用人工智能作為改善世界的工具，保護(hù)民主和基本權(quán)利，應(yīng)對(duì)技術(shù)變革不可避免地帶來(lái)的挑戰(zhàn)，以促進(jìn)社會(huì)包容性增長(zhǎng)和地球的可持續(xù)發(fā)展。

關(guān)注“廣東技術(shù)性貿(mào)易措施”，獲取更多服務(wù)。