Anthropic 研究員辭職震撼彈:「他們拿我們的性命豪賭」,連自家對齊主管都承認滅絕風險超過 10%
曾在 OpenAI 與 Anthropic 從事預訓練研究三年的研究員 Jacob Coxon 宣布辭職,直指兩大 AI 實驗室「不負責任地」衝向自我改進超級智能,「拿我們的性命豪賭」。對齊科學主管 Hubinger 公開附和,承認未來十年滅絕風險超過 10%,且公司「沒有解決超級智能對齊的計劃」。隨著美英先後提出禁止超級智能法案,AI 安全之戰正式升溫。
曾在 OpenAI 與 Anthropic 從事預訓練研究三年的研究員 Jacob Coxon 宣布辭職,直指兩大 AI 實驗室「不負責任地」衝向自我改進超級智能,「拿我們的性命豪賭」。對齊科學主管 Hubinger 公開附和,承認未來十年滅絕風險超過 10%,且公司「沒有解決超級智能對齊的計劃」。隨著美英先後提出禁止超級智能法案,AI 安全之戰正式升溫。
