廣東省WTO/TBT通報(bào)咨詢(xún)研究中心 版權(quán)所有
TüV萊茵成功贏得了首個(gè)金融領(lǐng)域的人工智能（AI）滲透測(cè)試項(xiàng)目，彰顯了TüV萊茵在前瞻性領(lǐng)域的創(chuàng)新實(shí)力與技術(shù)專(zhuān)長(zhǎng)。
所謂滲透性測(cè)試，是模擬黑客攻擊手段來(lái)識(shí)別和修復(fù)產(chǎn)品網(wǎng)絡(luò)安全漏洞的安全評(píng)估方法，能直觀反映產(chǎn)品安全性，幫助客戶(hù)進(jìn)行產(chǎn)品安全開(kāi)發(fā)，預(yù)防由于產(chǎn)品安全威脅造成的不可估量的損失。滲透性測(cè)試的結(jié)果能夠作為相關(guān)安全標(biāo)準(zhǔn)認(rèn)證的支持性材料，是產(chǎn)品順利通過(guò)認(rèn)證的必備條件。換言之，滲透性測(cè)試是化被動(dòng)為主動(dòng)的一次安全演習(xí)，它將代入黑客視角去識(shí)別產(chǎn)品的潛在漏洞，客觀刻畫(huà)出真實(shí)世界產(chǎn)品被攻擊的場(chǎng)景，從而識(shí)別漏洞并進(jìn)一步提供解決方案，幫助企業(yè)在危機(jī)發(fā)生前就將其化解，為產(chǎn)品安全背書(shū)。
在此次AI滲透測(cè)試項(xiàng)目中，TüV萊茵的專(zhuān)家將針對(duì)AI驅(qū)動(dòng)的網(wǎng)絡(luò)應(yīng)用進(jìn)行網(wǎng)絡(luò)安全測(cè)試。 測(cè)試目標(biāo)包括發(fā)現(xiàn)網(wǎng)絡(luò)應(yīng)用中的經(jīng)典漏洞，并識(shí)別因連接AI系統(tǒng)所產(chǎn)生的特定風(fēng)險(xiǎn)。網(wǎng)絡(luò)應(yīng)用連接生成式人工智能模型后，會(huì)存在如提示詞注入、敏感信息披露、供應(yīng)鏈漏洞、數(shù)據(jù)與模型污染、系統(tǒng)提示泄漏與訓(xùn)練數(shù)據(jù)中毒等潛在安全威脅并最終影響網(wǎng)絡(luò)應(yīng)用。以提示詞注入為例，黑客通過(guò)設(shè)計(jì)過(guò)的惡意輸入操縱大型語(yǔ)言模型，從而導(dǎo)致大語(yǔ)言模型忽略應(yīng)用創(chuàng)建者的系統(tǒng)提示，執(zhí)行返回私人、危險(xiǎn)或其他不希望出現(xiàn)的信息提示。 TüV萊茵的安全專(zhuān)家通過(guò)系統(tǒng)性的人工智能網(wǎng)絡(luò)安全滲透測(cè)試與漏洞分析策略及時(shí)確認(rèn)漏洞并部署防御措施，有效確保設(shè)備自身的安全性，保護(hù)企業(yè)和用戶(hù)免受網(wǎng)絡(luò)安全風(fēng)險(xiǎn)帶來(lái)的損失。
粵公網(wǎng)安備 44010602010620號(hào)