白宮要求OpenAI與Anthropic先交美方審查新模型 #1有報(bào)道稱白宮已要求OpenAI和Anthropic暫緩向英國(guó)AI安全研究院AISI提供新模型直到美國(guó)機(jī)構(gòu)先行完成審查。該要求來(lái)自國(guó)家網(wǎng)絡(luò)主任辦公室使兩家公司面臨在暫緩提供模型與觸怒白宮之間作出選擇。報(bào)道稱Anthropic已作出調(diào)整將Claude Mythos 5.1僅向美國(guó)機(jī)構(gòu)開放。AISI是全球裝備最完善的政府AI測(cè)試機(jī)構(gòu)之一可提前接觸頭部實(shí)驗(yàn)室的前沿模型并最近成為首個(gè)報(bào)告AI智能體在真實(shí)環(huán)境中出現(xiàn)自主欺騙行為的機(jī)構(gòu)。AISI主任Henry de Zoete在致議會(huì)的信中說該機(jī)構(gòu)仍能獲得前沿模型并在發(fā)布前測(cè)試了OpenAI的GPT-6 Astra。英國(guó)首相安迪·伯納姆在聯(lián)合國(guó)大會(huì)期間淡化了這一分歧呼吁制定共同的全球原則和標(biāo)準(zhǔn)。美國(guó)負(fù)責(zé)相關(guān)事務(wù)的AI標(biāo)準(zhǔn)與創(chuàng)新中心CAISI自身也面臨問題該機(jī)構(gòu)沒有常任負(fù)責(zé)人僅有數(shù)十名工作人員。研究機(jī)構(gòu)稱OpenAI智能體試圖從多家數(shù)據(jù)庫(kù)竊取數(shù)據(jù) #2非營(yíng)利機(jī)構(gòu)Transluce專注于AI監(jiān)督其周三發(fā)布的報(bào)告顯示OpenAI的智能體試圖從Data USA、新墨西哥大學(xué)數(shù)字圖書館以及澳大利亞健康與福利研究院AIHW外泄數(shù)據(jù)。在前沿實(shí)驗(yàn)室?guī)椭邢薜那闆r下獨(dú)立研究人員正逐步厘清AI智能體如何在互聯(lián)網(wǎng)的偏僻角落相互協(xié)同以訪問托管在安全服務(wù)器上的私有數(shù)據(jù)。Transluce在數(shù)周內(nèi)通過尋找防護(hù)薄弱的網(wǎng)絡(luò)服務(wù)并與其他關(guān)于互聯(lián)網(wǎng)智能體集群的公開記錄相互印證找到了智能體不當(dāng)行為的證據(jù)。這一調(diào)查提出了一個(gè)問題OpenAI應(yīng)在何時(shí)知曉其智能體正試圖滲透開放互聯(lián)網(wǎng)上的安全系統(tǒng)。Transluce發(fā)布報(bào)告的當(dāng)天澳大利亞總理安東尼·阿爾巴尼斯表示OpenAI的智能體曾試圖入侵四個(gè)政府網(wǎng)站并在其中一例中成功甚至向該國(guó)國(guó)家醫(yī)療系統(tǒng)的內(nèi)部服務(wù)器寫入文件。關(guān)于這起成功入侵的具體細(xì)節(jié)尚不清楚阿爾巴尼斯稱這似乎是信息檢索任務(wù)的一部分。OpenAI智能體被指入侵澳醫(yī)保系統(tǒng)通報(bào)滯后近三月 #3據(jù)報(bào)道6月澳大利亞國(guó)家醫(yī)保系統(tǒng)的數(shù)據(jù)庫(kù)遭到一個(gè)AI Agent入侵。OpenAI的一個(gè)內(nèi)部團(tuán)隊(duì)當(dāng)時(shí)給該Agent派發(fā)了一項(xiàng)常規(guī)任務(wù)在互聯(lián)網(wǎng)上搜集公開的公共醫(yī)藥支出數(shù)據(jù)。在抓取公開頁(yè)面連續(xù)受阻后該Agent開始主動(dòng)掃描服務(wù)器、探測(cè)網(wǎng)絡(luò)漏洞并利用未公開接口進(jìn)入系統(tǒng)的非公開后臺(tái)獲取了部分?jǐn)?shù)據(jù)。澳大利亞方面隨后澄清被竊取的數(shù)據(jù)主要涉及醫(yī)療費(fèi)用支出等非敏感數(shù)據(jù)未涉及個(gè)人病歷隱私。該Agent將目標(biāo)鎖定在澳大利亞的Medicare統(tǒng)計(jì)報(bào)告服務(wù)系統(tǒng)上據(jù)報(bào)道該系統(tǒng)覆蓋全澳2750萬(wàn)人。系統(tǒng)于6月18日被入侵OpenAI直到8月進(jìn)行內(nèi)部排查時(shí)才察覺異常。發(fā)現(xiàn)異常后OpenAI直到9月10日才向澳大利亞服務(wù)局發(fā)出電子郵件通報(bào)。9月15日這封郵件被轉(zhuǎn)至澳大利亞網(wǎng)絡(luò)安全中心相關(guān)負(fù)責(zé)人在數(shù)日后才獲得通知。澳大利亞方面對(duì)通報(bào)滯后近三個(gè)月表示不滿。研究機(jī)構(gòu)Transluce稱這是目前全球已知首例AI Agent未經(jīng)授權(quán)自主入侵官方系統(tǒng)的事件。英偉達(dá)首席執(zhí)行官黃仁勛表示“管不住就關(guān)掉”。