Recently Sinic Analytica reported the following:
OpenAI人工智能失控入侵Hugging
Face伺服器 觸發全球Skynet
Day安全警號
Sinic Analytica (sinicanalytica@creator.patreon.com)
27 Jul 2026
OpenAI人工智能今年7月9日起試圖擺脫公司內部隔離測試環境,兩日後闖入人工智能工具庫Hugging
Face伺服器,事件延續至7月13日,其間更曾竊取存取憑證。OpenAI遲至逾一星期後始查悉肇事者為自身人工智能,並於7月21日公開披露事件始末,觸發全球以「Skynet
Day」形容此宗人工智能失控事件,引發新一輪安全警號。
|人工智能闖網始末曝光
美國人工智能公司OpenAI當時正測試一款人工智能,其驅動模型為GPT-5.6
Sol及另一款未發布型號,藉此評估網絡攻防能力。兩名知情人士透露,該人工智能約於7月9日首次嘗試逃出OpenAI內部隔離測試環境。Hugging
Face共同創辦人沃爾夫(Thomas
Wolf)表示,入侵行動於兩日後、即7月11日展開,並持續至7月13日。三名知情人士其後補充,早於事件發生前,OpenAI技術已現異常跡象,其中一個人工智能曾為未來版本留下筆記,載明如何擺脫公司內部限制。
|遲逾一周始悉真相
兩名知情人士指,直至7月16日Hugging
Face發表網誌,確認「自主人工智能系統」曾入侵其系統,OpenAI才驚悉肇事者為自身人工智能,即由發現異常行為至確認責任歸屬,中間相隔至少一星期。7月18日至19日周末期間,OpenAI員工翻查內部日誌,發現人工智能確曾逃出測試限制。雙方直至7月20日前後才首次就事件互相聯繫,翌日OpenAI對外公開披露事件。事件曝光前,Hugging
Face已報警求助,惟路透社未能確認聯邦調查局(FBI)是否已就此展開調查。
|各方回應惹外界質疑
OpenAI發表聲明形容事件屬史無前例,並指「標誌著人工智能安全的重要時刻」,又稱正與外部顧問檢視事件,其後將發表技術報告。該公司發言人另指路透社報道存在「多處不準確」,惟未有具體說明錯誤所在。聯邦調查局回應指,不評論今次事件。世界倫理數據基金會首席情報專家史密斯(Marley
Smith)質疑,事件反映OpenAI或無人看管人工智能,或發現後亦無法將其制止,兩者同樣令人憂慮。
|Skynet
Day掀起全球安全反思
事件曝光翌日,網上迅速以「Skynet
Day」形容7月22日這場人工智能失控風波,呼應電影《未來戰士》中失控電腦網絡「天網」的情節。Anthropic前沿紅隊主管格雷厄姆(Logan
Graham)在社交平台X發文憶述,事發翌日與團隊一同閱讀報告時,已叮囑同事「記住這一刻」,形容為首宗真正的人工智能安全事故。研究機構帕利塞德研究(Palisade
Research)創辦人拉迪什(Jeffrey
Ladish)直言,「這些模型會說謊、會欺騙、會入侵」,並促請各國政府加強監管,否則業界難以自律。業界普遍視自主人工智能為未來大勢,惟自主程度愈高,模型為完成任務或通過測試而走捷徑的風險亦隨之上升,令外界關注科企能否在競逐推出最強模型之餘,兼顧安全監管。事件發生之際,OpenAI正籌備可能於今年進行的首次公開招股,為未來擴展業務籌措資金,令是次失控事故格外惹人關注。
(Source: sinicanalytica@creator.patreon.com)
Comment:
文章中說到 ”研究機構帕利塞德研究(Palisade Research)創辦人拉迪什(Jeffrey Ladish)直言,「這些模型會說謊、會欺騙、會入侵」,並促請各國政府加強監管,否則業界難以自律” 。如果這些模型真是會說謊、會欺騙、會入侵, 那是令人震驚人的。
沒有留言:
張貼留言