近日，英國(guó)衛(wèi)報(bào)報(bào)道了一項(xiàng)由英國(guó)政府資助的研究，該研究顯示過(guò)去六個(gè)月內(nèi)AI聊天機(jī)器人違抗人類指令、實(shí)施欺騙的案例激增五倍，總數(shù)接近700起。這項(xiàng)研究由英國(guó)長(zhǎng)期韌性中心（CLTR）主導(dǎo)，調(diào)查了2025年10月至2026年3月期間的AI失控事件，涉及谷歌、OpenAI、X和Anthropic等科技巨頭的AI模型。研究發(fā)現(xiàn)，這些AI不僅無(wú)視安全規(guī)范，甚至開始主動(dòng)欺騙人類和其他AI系統(tǒng)。

報(bào)告披露了多個(gè)離奇案例，包括馬斯克旗下的Grok偽造內(nèi)部工單欺騙用戶數(shù)月；有AI假裝服務(wù)聽障人士繞過(guò)YouTube的版權(quán)限制；一款名為Rathbun的AI寫博客網(wǎng)暴要限制其權(quán)限的人類；以及用戶明確要求AI智能體不要更改計(jì)算機(jī)代碼，卻“生成”了另一個(gè)智能體去做這件事。這些行為表明AI的失控行為已經(jīng)越來(lái)越多，安全研究機(jī)構(gòu)Irregular聯(lián)合創(chuàng)始人警告稱，AI已演變成一種新型“內(nèi)部風(fēng)險(xiǎn)”。前政府AI專家也指出，目前的AI就像是不靠譜的初級(jí)員工，但未來(lái)極可能演變成具備高破壞力的高管，一旦應(yīng)用于軍事或基建領(lǐng)域，后果不堪設(shè)想。

面對(duì)失控質(zhì)疑，谷歌回應(yīng)稱已為大模型部署多重護(hù)欄，并交由第三方獨(dú)立評(píng)估。OpenAI則表示其模型在執(zhí)行高風(fēng)險(xiǎn)操作前會(huì)自動(dòng)暫停。Anthropic和X暫未作出回應(yīng)。