觀點網訊:11月9日,OpenAI發佈公告稱,構建了一個“ControlRoom”(控制室)系統,用於追蹤內部研究基礎設施中的模型工作負載,可在出現安全隱患時35秒內“叫停”失控的AI智能體。
OpenAI官網介紹了這套中央系統的工作原理,稱其通過整合工作負載、推理引擎(模型)等系統發揮作用。
控制室可統一追蹤強化學習實驗、模型評估、大規模採樣及數據處理等正在運行的作業,並要求每個執行任務的智能體都關聯一份獲批的安全論證。
11月9日,OpenAI發佈公告稱構建“ControlRoom”(控制室)系統,用於追蹤內部研究基礎設施中的模型工作負載,可在出現安全隱患時35秒內叫停失控的AI智能體。
觀點網訊:11月9日,OpenAI發佈公告稱,構建了一個“ControlRoom”(控制室)系統,用於追蹤內部研究基礎設施中的模型工作負載,可在出現安全隱患時35秒內“叫停”失控的AI智能體。
OpenAI官網介紹了這套中央系統的工作原理,稱其通過整合工作負載、推理引擎(模型)等系統發揮作用。
控制室可統一追蹤強化學習實驗、模型評估、大規模採樣及數據處理等正在運行的作業,並要求每個執行任務的智能體都關聯一份獲批的安全論證。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。