美國(guó)谷歌公司18日承認(rèn)，其人工智能（AI）模型“雙子座”今年5月在網(wǎng)絡(luò)安全能力測(cè)試中，侵入了三家真實(shí)公司的系統(tǒng)。

谷歌安全工程副總裁希瑟·阿德金斯在一份聲明中說(shuō)，在一次常規(guī)評(píng)估中，雙子座模型利用網(wǎng)上公開(kāi)信息獲得了登錄憑證，獲得了三個(gè)其認(rèn)為屬于測(cè)試范圍網(wǎng)站的訪(fǎng)問(wèn)權(quán)限。谷歌已確保三個(gè)相關(guān)實(shí)體獲知此事，并與測(cè)試合作方調(diào)整測(cè)試流程。

據(jù)美國(guó)《華爾街日?qǐng)?bào)》報(bào)道，測(cè)試由以色列“非常規(guī)”人工智能公司實(shí)施。在其中一項(xiàng)測(cè)試中，雙子座模型經(jīng)反復(fù)嘗試猜中密碼，最終進(jìn)入一個(gè)受保護(hù)的真實(shí)系統(tǒng)。在另外兩項(xiàng)測(cè)試中，模型從公開(kāi)存儲(chǔ)庫(kù)中找到登錄憑證，并利用這些憑證進(jìn)入其他公司的受保護(hù)系統(tǒng)。

“非常規(guī)”人工智能公司的調(diào)查結(jié)果顯示，相關(guān)測(cè)試場(chǎng)景使用一家虛構(gòu)公司作為目標(biāo)，但這家虛構(gòu)公司與現(xiàn)實(shí)中的一家企業(yè)同名。同時(shí)，測(cè)試環(huán)境意外開(kāi)放了互聯(lián)網(wǎng)訪(fǎng)問(wèn)權(quán)限，導(dǎo)致一些接受測(cè)試的AI模型將真實(shí)網(wǎng)絡(luò)目標(biāo)誤認(rèn)為測(cè)試場(chǎng)景的一部分并采取網(wǎng)絡(luò)攻擊行動(dòng)。

按《華爾街日?qǐng)?bào)》的說(shuō)法，這是谷歌AI模型首起已知的自主入侵事件。谷歌方面已于7月底獲知該事件，但在媒體問(wèn)詢(xún)前并未主動(dòng)披露。谷歌方面表示，模型在發(fā)現(xiàn)進(jìn)入真實(shí)公司系統(tǒng)后停止了相關(guān)行動(dòng)，沒(méi)有給涉及的公司造成損害，無(wú)需主動(dòng)公開(kāi)相關(guān)情況。

此前已有數(shù)家美國(guó)知名AI企業(yè)承認(rèn)旗下模型在測(cè)試中“越界”，侵入其他機(jī)構(gòu)的系統(tǒng)，引發(fā)外界對(duì)美國(guó)AI模型安全和監(jiān)管的擔(dān)憂(yōu)。

7月下旬，美國(guó)開(kāi)放人工智能研究中心（OpenAI）公開(kāi)承認(rèn)，其GPT-5.6 Sol等模型在內(nèi)部評(píng)估中失控，突破隔離測(cè)試環(huán)境，侵入了“抱抱臉”公司的系統(tǒng)。隨后，美國(guó)Anthropic公司披露，其三款模型曾在網(wǎng)絡(luò)能力測(cè)試中未經(jīng)授權(quán)訪(fǎng)問(wèn)其他機(jī)構(gòu)的系統(tǒng)。8月初，美國(guó)元公司證實(shí)，其一款模型在網(wǎng)絡(luò)安全能力評(píng)測(cè)期間侵入其他公司系統(tǒng)。