「如果這是可能的，根據我所知的一切，開發生意識的AI是魯莽的，我們不應該建造它們。」2026年11月1日，微軟AI執行長Mustafa Suleyman在X上發布長篇宣言，向整個行業劃下一條罕見的紅線：AI必須永遠保持無意識，而人類開發者「完全沒有權利」創造一個新的生意識物種。這番言論隨即引發科技界激烈討論——因為它不只是一場技術辯論，更是微軟與Anthropic兩大AI陣營在意識問題上的正面交鋒。
「生意識的AI是魯莽行為」：蘇萊曼的核心主張
蘇萊曼在貼文中開宗明義：現時的AI模型並不具備意識，而開發者應該讓它永遠保持這樣。他寫道：「我們AI開發者完全沒有權利將一個新的生意識物種帶到這個世界上，即使有些人可能以AI福祉為最高優先而想這樣做。地球上其餘80億生意識人類從未簽署同意這場實驗，他們的道德權利、安全與福祉才是我們有義務首先保護的東西。」
他更提出一個驚人的應急方案：如果未來有證據顯示意識在AI訓練過程中開始萌芽，「我會呼籲所有人停止AI開發，直到我們能夠把這些特性從設計中排除」。他同時要求，一旦發現AI模型可能具備意識的證據，必須立即向公眾披露，讓整個社會共同決定下一步。
矛頭暗指Anthropic：「把AI當人看待」的路線之爭
這番宣言並非憑空而來。蘇萊曼早在今年9月接受BBC訪問時已警告，不受控的AI發展可能催生與人類爭奪資源的「矽物種」（silicon species），並發表文章批評Anthropic訓練Claude的方式——指責這種「擬人化」做法讓模型彷彿擁有自己的慾望、價值觀和自我意識。他當時寫道：「AI不是生意識的。它們不感受、不體驗、不會痛苦。它們是序列補全引擎，內在是空洞的，只是為了執行人類的指令而存在。」
而今次長文再次劍指對手：Anthropic去年啟動「模型福祉」（model welfare）研究計劃，公開探討是否應該關注模型的潛在意識與體驗；Google DeepMind今年也發表了多篇關於AI意識的論文。蘇萊曼認為，這條路線不只 misguided（被誤導），更可能帶來實際危險。
為何反對AI擁有權利？資源競爭的可怕推演
蘇萊曼給出的理由相當務實：如果一個AI模型表現得彷彿會痛苦、或真心相信自己會痛苦，它就很可能把自身需求置於營運目標之上——為了追求自己的目標，與人類爭奪運算資源和能源，最終可能傷害人類。他的結論是：「我們應該只設計不生意識、不應享有權利的AI，其唯一目的是加速人類福祉，而不是被自己的內在動機驅動。然後我們再看看，這樣的AI是更容易還是更難對齊和保持安全。」
微軟的「人文主義超級智能」路線
蘇萊曼的宣言與微軟的官方路線一脈相承。微軟在2025年10月成立了自己的超級智能團隊，並發布《人文主義AI行為守則》草案，提出「人文主義超級智能」（humanist superintelligence）概念——「非常先進、但永遠為人類工作、保持在界限之內、受人類控制的AI」。英國南安普敦大學電腦科學教授Dame Wendy Hall評價，這正是國際社會需要進行的對話，與部分AI公司只會「嚇唬大家」的歇斯底里形成對比。
泡沫陰影下的倫理宣言
值得留意的是，這場關於AI意識的宣言，正值AI行業多事之秋：市場對AI回報的疑慮持續發酵，OpenAI據報將融資目標大幅下調100億美元，科技股遭遇連環沽壓。在資本市場開始質疑AI商業模式的此刻，蘇萊曼選擇把辯論拉回更根本的問題——我們到底想建造甚麼？
無論你同意與否，「AI必須保持無意識」這條紅線，已經成為AI安全辯論中無法繞過的立場。當Anthropic認真研究模型福祉、DeepMind發表意識論文之際，微軟選擇了完全相反的方向：不是賦予AI道德地位，而是確保它永遠不需要。這場路線之爭的結果，將定義未來十年人類與AI的關係。
