觀點網訊:字節跳動Seed近日發出內部郵件,宣佈將成立“Seed Model-Alignment&Preparedness”部門,由嚴林負責,彙報給Seed負責人吳永輝。
根據內部郵件,原Responsible AI團隊及部分Chat團隊成員將轉入新部門。該部門的設立旨在加強安全與對齊方向的投入。
對齊的核心是讓模型的行為與人類意圖和安全約束保持一致。據悉,新部門設立旨在提升Agent Model安全能力,以及防範CBRN等前沿能力風險。
字節跳動Seed近日通過內部郵件宣佈成立Seed Model-Alignment&Preparedness部門,由嚴林負責,彙報給Seed負責人吳永輝,原Responsible AI團隊及部分Chat團隊成員轉入。
觀點網訊:字節跳動Seed近日發出內部郵件,宣佈將成立“Seed Model-Alignment&Preparedness”部門,由嚴林負責,彙報給Seed負責人吳永輝。
根據內部郵件,原Responsible AI團隊及部分Chat團隊成員將轉入新部門。該部門的設立旨在加強安全與對齊方向的投入。
對齊的核心是讓模型的行為與人類意圖和安全約束保持一致。據悉,新部門設立旨在提升Agent Model安全能力,以及防範CBRN等前沿能力風險。
免責聲明:本文内容與數據由觀點根據公開信息整理,不構成投資建議,使用前請核實。