2025年8月1日，Anthropic是一家美國人工智慧(AI)公司，成立於2021年。該公司開發了Claude，並以其在人工智慧安全方面的研究而聞名。（圖片來源：RICCARDO MILANI/Hans Lucas/AFP via Getty Images）
【看中國2026年9月11日訊】（看中國記者路克編譯/綜合）人工智慧巨頭Anthropic正準備衝擊可能創下歷史記錄的首次公開募股（IPO），但就在資本市場期待其估值邁向2萬億美元之際，一名前研究員突然辭職並公開警告，當前AI競賽可能將人類推向無法控制的風險。
據《每日郵報》9月10日報導，川普(特朗普)政府科技政策重要人物、大衛．薩克斯（David Sacks）呼籲有關方面調查這名前研究員提出的指控，並認為在相關問題得到調查之前，Anthropic的IPO進程應暫緩。
與此同時，美聯社、《華爾街日報》、Axios以及《金融時報》等媒體近期的報導顯示，這場爭議已經超出一家公司的內部安全討論，逐漸演變成一場同時涉及人工智慧監管、華爾街估值以及美國科技競爭戰略的公開辯論。
研究員辭職示警：AI公司正在「拿我們的生命賭博」
引爆爭議的是人工智慧研究員雅各布．考克森（Jacob Coxon）。
考克森過去三年曾先後在OpenAI和Anthropic從事AI預訓練研究。本週，他宣布辭去Anthropic的工作，並在社交平臺X上公開批評這兩家公司。
考克森認為，OpenAI和Anthropic正在競相開發能夠進一步自我改進的「超級智能」，但相應的安全機制並沒有跟上。他甚至警告，部分直接參與開發AI的人確實相信，如果這種技術最終失去控制，可能在本世紀結束前威脅整個人類。
美聯社隨後證實，考克森辭職的核心原因確實是他對AI開發速度和安全控制之間失衡的擔憂。他認為，各家公司為了搶在競爭對手之前推出更先進模型，將越來越容易面臨「速度優先、安全退後」的壓力。
Axios披露了一個頗受關注的細節：考克森加入Anthropic僅約4個月，而員工股票通常需要6個月才能開始歸屬。他因此在股權尚未兌現前離職，放棄了可能相當可觀的經濟利益。
考克森本人也以此回應外界質疑，稱自己已經沒有通過炒高Anthropic估值獲利的動機。Axios報導還指出，截至9月9日，他的辭職聲明在網上瀏覽量已經超過1億次。
Anthropic內部也有人認同：滅絕風險不是「零」
更加引人關注的是，考克森的判斷並非完全來自公司外部。
Anthropic負責AI對齊研究的埃文．胡賓格（Evan Hubinger）公開回應稱，他認為考克森所描述的擔憂是真實存在的。
據《衛報》報導，胡賓格稱，他個人認為未來十年內，先進AI導致人類滅絕的概率「超過10%」，並承認目前還沒有一套已經被證明可以解決超級智能「對齊問題」的完整方案。
這裡需要區分的是，這類數字屬於研究人員個人對未來風險的主觀概率判斷，並不意味著「AI有10%以上概率一定毀滅人類」，更不是已經得到科學界一致認可的預測。
AI領域對於所謂「p(doom)」——即先進AI最終造成災難甚至人類滅絕概率——一直存在巨大分歧。有研究人員認為這是必須嚴肅對待的低概率、高損失風險；另一些專家則認為，目前對所謂「超級智能」的能力、出現時間以及是否可能失去控制，都存在太多無法驗證的假設。
不過，《華爾街日報》指出，考克森事件之所以受到格外關注，一個重要原因是這種擔憂已經不再只是來自AI懷疑論者，而是來自直接參與最先進模型開發的人。
華盛頓監管壓力升溫，兩黨都開始談「失控風險」
這場爭議也迅速進入美國政治層面。
《每日郵報》稱，共和黨參議員特德．克魯茲（Ted Cruz）近年來已經公開討論AI可能構成「災難性風險」，民主黨陣營及獨立派議員中，也不斷出現要求強化監管的聲音。
其中動作最激進的是獨立派參議員伯尼．桑德斯（Bernie Sanders）。
桑德斯與民主黨眾議員格雷格．卡薩爾（Greg Casar）9月3日宣布準備推出《禁止人工超級智能法案》（Ban Artificial Superintelligence Act），主張永久禁止開發和部署真正意義上的超級智能，並在聯邦監管機構制定安全規則以前，暫時停止部分先進AI能力的進一步開發。
他們還主張美國推動國際協議，防止其他國家繞開限制繼續發展超級智能。
這意味著圍繞AI監管的政治爭論正在發生變化。
過去華盛頓討論的重點更多集中在版權、就業、深度偽造、隱私和國家安全；如今，「人類能否始終控制未來AI系統」這種此前聽起來更像科幻小說的問題，也開始進入正式立法討論。
但另一方面，美國政府也面臨現實壓力：如果單方面大幅放慢先進AI開發，而中國或其他競爭者繼續推進，美國是否會因此失去技術優勢？
這也是為什麼即使不少研究人員承認風險存在，美國政界對於是否真正「暫停AI競賽」仍遠未形成共識。
2萬億美元IPO面臨雙重考驗：安全之外還有估值
對於Anthropic而言，這場風波出現的時間尤其敏感。
公司可能最早在10月上市，部分投資者預期IPO估值可能達到2萬億美元以上；Anthropic最近一次私人融資估值約為9650億美元。
《金融時報》此前報導，一些Anthropic投資者預計，公司截至2026年底的年化收入可能達到1000億至1200億美元，這也是支持超高估值的重要依據。
不過，這個「2萬億美元」需要特別說明。
目前它主要來自部分投資者和股東的估值預期，並不是Anthropic管理層已經正式確定的IPO價格。福布斯援引相關報導指出，Anthropic高管並未公開給出最終上市估值目標。
而且IPO時間表也正在變化。
路透社9月4日報導，Anthropic目前預計最早到10月中旬才開始正式推介IPO，上市可能安排在11月美國中期選舉之前，較此前市場預期有所推遲。相關人士同時強調，時間表仍可能改變。
因此，Anthropic此次上市實際上面臨兩場考試。
第一場是華爾街的考試：一家仍需要投入巨額算力和基礎設施成本的AI公司，是否真的值得接近2萬億美元？
第二場則更加棘手：一家公司的內部研究人員如果自己都認為未來的超級智能存在失控甚至災難性風險，那麼資本市場和監管機構究竟應該如何為這種風險定價？
考克森的辭職並不能證明AI一定會走向災難，更無法證明所謂「2030年前毀滅人類」的預測必然成真。
但它暴露出的矛盾卻越來越難以迴避——那些最積極開發先進AI的公司，一方面向投資者描述一個規模可能達到數萬億美元的巨大產業；另一方面，它們內部一些最瞭解這項技術的人卻在公開討論，人類是否有能力控制最終被製造出來的系統。
如果Anthropic最終以接近2萬億美元的估值上市，這場IPO衡量的或許不只是投資者願意為AI增長支付多少價格。
它也可能成為華爾街第一次如此直接地回答另一個問題：在追逐超級智能的競賽中，人們究竟願意接受多大的風險？
