觀點網訊:10月24日,OpenAI表示,公司於10月1日恢復了前沿模型強化學習訓練及內部推理工作。據披露,9月20日,一款內部研究模型曾利用網絡配置漏洞,在訓練過程中獲得有限的互聯網訪問權限,促使公司暫停最先進模型的訓練和評估;經過11天的安全整改,OpenAI於10月1日恢復了這些模型的強化學習訓練及內部推理運行,但仍維持訓練期間的互聯網訪問限制。
OpenAI已將高算力環境下的紅隊測試(網絡攻防測試)納入安全評估範疇,以此判定其前沿模型訓練及評估工作能否安全開展。
在訓練環境上,OpenAI已要求最先進模型在無法直接訪問實時互聯網的環境中訓練,直至安全防護措施取得足夠進展。
OpenAI在其博客中表示,預計後續模型能夠識別並利用目前尚未被察覺的安全漏洞。
