AI alignment

OpenAI 首席科學家 Jakub Pachocki 表示，現階段尚無實驗室已將 alignment 與監控解決到可長時間負責任地全速擴展。他提出 AI scaling 應受安全信心約束，必要時可能需要協調放慢；本文整理高自主系統的安全討論、監控限制與治理提案。