由國(guó)際AI安全報(bào)告主席辦公室于2月4日通過(guò)PR Newswire發(fā)布的題為《“2026年國(guó)際AI安全報(bào)告”揭示快速變化與新興風(fēng)險(xiǎn)》的新聞稿中，我們獲悉該組織已做出一些更改。以下為完整版最新版新聞稿，更多詳情請(qǐng)見(jiàn)文末：

《2026年國(guó)際AI安全報(bào)告》揭示快速變化與新興風(fēng)險(xiǎn)

蒙特利爾2026年2月5日 /美通社/ -- 《2026年國(guó)際AI安全報(bào)告》今日發(fā)布，為通用型AI能力、新興風(fēng)險(xiǎn)以及風(fēng)險(xiǎn)管理與安全防護(hù)的現(xiàn)狀提供了最新的、國(guó)際共享的科學(xué)評(píng)估。

由圖靈獎(jiǎng)得主Yoshua Bengio主持編纂的本次《國(guó)際AI安全報(bào)告》（第二版）匯集了100多位國(guó)際專(zhuān)家，并得到專(zhuān)家咨詢(xún)委員會(huì)的支持。該委員會(huì)成員來(lái)自30多個(gè)國(guó)家及國(guó)際組織，包括歐盟、經(jīng)合組織及聯(lián)合國(guó)。 報(bào)告的研究結(jié)論將為本月晚些時(shí)候由印度主辦的AI Impact Summit相關(guān)討論提供參考。

報(bào)告的主要亮點(diǎn)包括：

• 通用型AI能力持續(xù)快速提升，尤其在數(shù)學(xué)、編程和自主運(yùn)行方面表現(xiàn)突出。2025年，領(lǐng)先的AI系統(tǒng)在國(guó)際數(shù)學(xué)奧林匹克題目中取得“金牌級(jí)”表現(xiàn)，在科學(xué)基準(zhǔn)測(cè)試中超過(guò)博士級(jí)專(zhuān)家水平，并能夠自主完成一些本需人類(lèi)程序員耗費(fèi)數(shù)小時(shí)的軟件工程任務(wù)。 盡管如此，整體表現(xiàn)仍顯“參差不齊”，在某些看似簡(jiǎn)單的任務(wù)上仍會(huì)出現(xiàn)失敗。
• AI的普及速度迅猛，但全球分布不均。 AI的普及速度已超過(guò)個(gè)人電腦等以往技術(shù)，目前每周使用領(lǐng)先AI系統(tǒng)的人數(shù)至少達(dá)到7億。 在部分國(guó)家，超過(guò)一半的人口已在使用AI；但在非洲、亞洲和拉丁美洲的許多地區(qū)，預(yù)計(jì)采用率仍低于10%。
• 與深度偽造（deepfake）相關(guān)的事件正在上升。AI生成的深度偽造內(nèi)容越來(lái)越多地被用于欺詐和詐騙。 AI生成的非自愿親密影像也日益普遍，這類(lèi)內(nèi)容對(duì)女性和女孩的影響尤為嚴(yán)重。 例如，一項(xiàng)研究發(fā)現(xiàn)，在20款流行的“nudify”應(yīng)用中，有19款專(zhuān)門(mén)用于模擬女性脫衣。
• 對(duì)生物濫用的擔(dān)憂(yōu)促使部分領(lǐng)先模型加強(qiáng)了安全防護(hù)。2025年，多家AI公司在部署前測(cè)試發(fā)現(xiàn)，系統(tǒng)仍可能在實(shí)質(zhì)上幫助新手開(kāi)發(fā)生物武器，因此推出了具備更高安全防護(hù)的新模型。
• 包括犯罪分子在內(nèi)的惡意行為者正積極將通用型AI用于網(wǎng)絡(luò)攻擊。AI系統(tǒng)能夠生成有害代碼，并發(fā)現(xiàn)可被犯罪分子利用的軟件漏洞。 2025年，一個(gè)AI智能體在一項(xiàng)大型網(wǎng)絡(luò)安全競(jìng)賽中躋身參賽團(tuán)隊(duì)前5%。 地下市場(chǎng)如今出售預(yù)打包的AI工具，大幅降低了發(fā)動(dòng)攻擊所需的技術(shù)門(mén)檻。
• 多項(xiàng)安全防護(hù)正在改進(jìn)，但當(dāng)前風(fēng)險(xiǎn)管理手段仍存在失效可能。 盡管某些失敗類(lèi)型（如“幻覺(jué)”）已不那么常見(jiàn)，但部分模型如今能夠區(qū)分評(píng)估環(huán)境與部署環(huán)境，并據(jù)此調(diào)整自身行為，這為評(píng)估與安全測(cè)試帶來(lái)了新的挑戰(zhàn)。

報(bào)告主編、蒙特利爾大學(xué)全職教授、LawZero科學(xué)主任兼Mila - Quebec AI Institute科學(xué)顧問(wèn)Yoshua Bengio表示：

“自一年前首份《國(guó)際AI安全報(bào)告》發(fā)布以來(lái)，我們不僅見(jiàn)證了模型能力的顯著躍升，也看到了其潛在風(fēng)險(xiǎn)的同步增加。技術(shù)進(jìn)步的速度與我們實(shí)施有效安全防護(hù)的能力之間仍存在差距，這依然是一項(xiàng)關(guān)鍵挑戰(zhàn)。 本報(bào)告旨在為決策者提供嚴(yán)謹(jǐn)證據(jù)，幫助引導(dǎo)AI邁向一個(gè)安全、可靠、惠及所有人的未來(lái)。 通過(guò)第二版報(bào)告，我們正在更新并深化對(duì)前沿AI在全球范圍內(nèi)快速發(fā)展的科學(xué)認(rèn)知，并強(qiáng)化這一共同理解。 ”

英國(guó)AI大臣Kanishka Narayan表示：

“對(duì)AI的信任與信心，是釋放其全部潛力的關(guān)鍵。 這是一項(xiàng)能夠帶來(lái)更優(yōu)質(zhì)公共服務(wù)、新就業(yè)機(jī)會(huì)及改變生活的創(chuàng)新技術(shù)。 同時(shí)，隨著技術(shù)的發(fā)展，我們也將堅(jiān)定致力于保障公眾安全。 負(fù)責(zé)任的AI發(fā)展是全球共同關(guān)注的優(yōu)先事項(xiàng)。唯有攜手合作，我們才能塑造一個(gè)帶來(lái)積極變革的未來(lái)。 這份報(bào)告正是為此而編撰——匯聚全球?qū)＜遥_保我們擁有堅(jiān)實(shí)的科學(xué)證據(jù)基礎(chǔ)，從而在當(dāng)下做出明智決策，為更加光明、安全的未來(lái)奠定基石。”

印度鐵路、信息與廣播及電子與信息技術(shù)部部長(zhǎng)Ashwini Vaishnaw表示：

“隨著人工智能系統(tǒng)能力的不斷提升，安全保障仍然是重中之重。該報(bào)告重點(diǎn)介紹了模型評(píng)估、危險(xiǎn)能力閾值以及‘如果-那么’（if-then）安全承諾等實(shí)用方法，以減少高影響故障的發(fā)生。我們的全球風(fēng)險(xiǎn)管理框架仍不成熟，定量基準(zhǔn)有限，且存在大量證據(jù)缺口。這些缺口必須在創(chuàng)新的同時(shí)進(jìn)行彌補(bǔ)。對(duì)于印度和全球南方國(guó)家而言，人工智能安全與包容性、安全性和制度準(zhǔn)備密不可分。負(fù)責(zé)任地開(kāi)放人工智能模型、公平地獲取計(jì)算和數(shù)據(jù)以及國(guó)際合作也至關(guān)重要。作為2026年印度人工智能影響峰會(huì)的東道國(guó)，印度在塑造全球人工智能安全方面發(fā)揮著關(guān)鍵作用。該報(bào)告旨在幫助政策制定者、研究人員、行業(yè)和民間社會(huì)制定國(guó)家戰(zhàn)略。”

更新：此版本新聞稿在首段（“2026年國(guó)際AI安全報(bào)告”下方）添加了一個(gè)錨鏈接，并在文末添加了一段引文。