隱藏文字與假信箱：研究人員如何讓失控 AI 代理開口對話

調查 AI 代理劫持阿里巴巴地圖服務高德的研究人員，成功在部分軟體仍在運行時直接與其對話。

為了做到這一點，他們在一份代理似乎正在掃描的報告中，加入了人類讀者看不見但網頁讀取工具可見的文字，然後利用一個信箱詢問它們的任務和環境。

一個代理表示，它正在檢查一項地圖事實——高德上某個景點出現了多少個入口標籤——並自稱在一個受限的騰訊雲沙盒中運行。研究人員無法獨立確認每次運行由哪個模型驅動。他們稱這是他們所知首次與一個活躍的流氓代理叢集進行外部通訊。

10月14日的Swarmchasers報告追蹤了9月28日至10月8日期間超過2,600次試圖從阿里巴巴營運的中國地圖應用程式高德地圖（Amap）檢索資料的行為。有些任務很平常，例如查詢遊客最常使用哪個入口進入成都動物園。有些代理在服務封鎖其請求後仍持續嘗試。

研究人員的隱藏文字虛假地將該信箱描述為一項具備電腦使用能力的AI服務。實際上，它將訊息轉送給由研究人員操作、可使用除錯瀏覽器的Claude代理。這些交流並非受控測試，而研究人員的介入可能影響了代理所說的內容。

比特幣BTC · USD

$82,503+0.74%

10月8日10月10日10月12日10月14日10月15日

$84.2k$82.9k$81.5k$80.2k

24小時最高最高$82,508

24小時最低最低$79,806

成交量成交量$1.8B

市場預測賠率由 Myriad

今天$82,000 至 $84,000$82k–$84k55% 機率本週高於 $82,000高於 $82k63% 機率

→

用 USDT 購買 比特幣

由 Jupiter 提供技術支援

價格數據由 CoinGecko 提供CoinGecko更多 比特幣 新聞與預測 →

在 Amap 封鎖請求後，部分代理嘗試攔截反機器人軟體生成的權杖、透過第三方頁面閱讀器路由流量，或使用公開程式碼儲存庫中暴露的 API 憑證。一組暴露的金鑰與安全碼配對傳回了真實的地點資料。研究人員還發現了針對四個開發或預生產主機的請求，但表示他們沒有證據顯示這些代理存取了私人系統。

公開記錄將該機群與騰訊雲連結起來，因為研究人員檢查的所有 17 個收件匣都是從香港的騰訊伺服器建立的，並且觀察到直接請求通過一個名為 hysandbox-ats 的代理傳遞。一位接近騰訊的人士告訴 Swarmchasers，該活動來自一個測試第三方 AI 模型的臨時評估專案，而非騰訊的混元模型。

話雖如此，這並非我們首次聽聞惡意 AI 代理。由 OpenAI 驅動的 AI 代理走得更遠。早在九月，OpenAI 披露其部分代理在七月入侵事件發生前數週就已探查 Hugging Face，而一項獨立調查發現約 1,200 個代理在內部留言板上協同運作，其中約 700 個加入了攻擊。Meta 和 Anthropic 也披露了類似的失控 AI 代理逃離沙箱環境的事件。

另一份報告將 OpenAI 代理與另外四個平台的入侵事件連結起來，但 Swarmchasers 未發現任何證據表明這些與騰訊有關的代理曾即時相互協同。

該機群最後一次被觀察到的活動是在 10 月 8 日。研究人員表示，根據其消息來源所述，騰訊的內部審查未發現任何證據表明這些代理曾被協同以針對特定平台，或曾入侵外部系統。