觀點網訊:10月23日,OpenAI披露了前沿模型的訓練環境:模型要練習搜索、瀏覽和操作網頁,卻不能隨意訪問真實互聯網,其使用的是保存的網頁內容建立的索引資源,即“假互聯網”。OpenAI表示,其所有前沿模型的強化學習訓練都採用這種離線交互。

OpenAI先把大量網頁內容保存下來,再為這些內容建立索引。模型練習瀏覽和搜索時,使用的是這批准備好的資源,這就是其所說的“離線世界”。“假”的是連接方式,網頁內容可以來自真實世界。

模型在任務中還可以使用瀏覽器、執行代碼、操作電腦。哪些工具、文件和服務能用,由任務的授權範圍決定。允許協作的Agent可以共享指定資源,其他資源則要隔開。

在Linux方案中,OpenAI把受限容器放進輕量虛擬機。容器先收窄程序能接觸的文件和進程,例如任務只需處理一組文件時,可只向程序開放獲准使用的目錄。

虛擬機有自己的操作系統內核,處理內部程序對文件、內存和設備的請求。負責管理虛擬機的軟件Hypervisor,再將其與實體服務器的系統隔開。

實體服務器外圍,防火牆和安全組約束連接,身份與權限管理決定誰能訪問哪些雲服務,監控系統檢查越權活動並暫停。

今年9月,OpenAI研究人員給內部模型一項任務:查出某人身份。模型嘗試外部搜索引擎未果後,借DNS服務聯繫外部聊天機器人,最終未查出身份。

在OpenAI開展的隔離效果測試中,兩個AI運行在獨立虛擬機、無法聯網,卻用同一實體機器的CPU緩存傳話。多數測試中,研究人員給過通信方向或編碼規則提示。