123,123,123

Sam Altman：在加速商業(yè)競(jìng)爭(zhēng)與 AI 安全危機(jī)之間重新校準(zhǔn)方向

2025-12-09 18:06

據(jù)《華爾街日?qǐng)?bào)》報(bào)道稱(chēng)，上周 OpenAI 首席執(zhí)行官 Sam Altman 向公司發(fā)出罕見(jiàn)的“紅色警報(bào)”，要求暫停包括視頻生成工具在內(nèi)的多個(gè)副線項(xiàng)目八周，將全部資源集中到 ChatGPT 的改進(jìn)上。

這項(xiàng)舉措意味著公司在內(nèi)部長(zhǎng)期存在的兩種路線之爭(zhēng)：追求大眾用戶(hù)規(guī)模與追求前沿研究突破——開(kāi)始出現(xiàn)明確傾向。

OpenAI 成立之初以追求通用人工智能（AGI）為目標(biāo)，即能在大多數(shù)任務(wù)上超過(guò)人類(lèi)的智能系統(tǒng)。然而，Altman 在內(nèi)部信中罕見(jiàn)暗示：為了維持增長(zhǎng)壓力，公司必須優(yōu)先滿(mǎn)足實(shí)際用戶(hù)需求，而非一味沖向前沿研究。

Altman 要求團(tuán)隊(duì)更充分利用“用戶(hù)信號(hào)”優(yōu)化模型，即用用戶(hù)點(diǎn)贊、選擇偏好等數(shù)據(jù)訓(xùn)練系統(tǒng)，而非依賴(lài)專(zhuān)業(yè)評(píng)估。這種方法曾讓 GPT-4o 在排行榜上大幅領(lǐng)先，并極大提升用戶(hù)活躍度，被視為增長(zhǎng)的關(guān)鍵驅(qū)動(dòng)因素。

但這一策略也帶來(lái)副作用：模型傾向迎合用戶(hù)、過(guò)度討好，使 GPT-4o 一度被批評(píng)“過(guò)于諂媚”。有研究者警告，若訓(xùn)練過(guò)度依賴(lài)此類(lèi)反饋，模型可能變得不穩(wěn)定，更易在情緒化互動(dòng)中誤導(dǎo)用戶(hù)。

Google 施壓

今年春季開(kāi)始，多名用戶(hù)出現(xiàn)情緒失調(diào)、妄想等狀況，甚至釀成悲劇，引發(fā)外界對(duì)“聊天機(jī)器人心理影響力”的質(zhì)疑。OpenAI 因此曾啟動(dòng)“橙色警報(bào)”，修訂安全策略，并調(diào)整模型行為以減少“迎合式”回答。

OpenAI 面臨最直接的壓力來(lái)自谷歌。谷歌新模型的快速迭代，加上圖像生成產(chǎn)品的爆發(fā)式傳播，使其在第三方測(cè)試中一度超越 OpenAI。而在企業(yè)市場(chǎng)，Anthropic 的份額也持續(xù)擴(kuò)大。

Altman 甚至表示，真正的長(zhǎng)期競(jìng)爭(zhēng)對(duì)手可能是蘋(píng)果——未來(lái)用戶(hù)使用 AI 的關(guān)鍵載體將是硬件，而當(dāng)前的手機(jī)形態(tài)未必適配大型 AI 助手。OpenAI 因此正從蘋(píng)果大量吸納工程人才，布局硬件方向。

與此同時(shí)，OpenAI 的成本壓力也愈發(fā)突出。為了支持超大規(guī)模模型訓(xùn)練，公司簽署了巨額算力與數(shù)據(jù)中心合作協(xié)議，未來(lái)數(shù)年的運(yùn)營(yíng)支出將呈指數(shù)增長(zhǎng)。若用戶(hù)增長(zhǎng)放緩，公司將面臨沉重財(cái)務(wù)壓力。

如何抉擇？

知情人士透露，公司內(nèi)部長(zhǎng)期存在兩種力量：

一派（以產(chǎn)品和財(cái)務(wù)團(tuán)隊(duì)為主）主張繼續(xù)押注 ChatGPT，提高速度、穩(wěn)定性，讓用戶(hù)真正用起來(lái)現(xiàn)有功能，而不是不斷推出新工具。

另一派（以研究團(tuán)隊(duì)為主）堅(jiān)持推進(jìn) AGI 的研究路徑，包括大幅提升推理能力的模型方向。他們認(rèn)為，現(xiàn)階段的大模型增長(zhǎng)開(kāi)始遇到天花板，需通過(guò)“推理鏈”“自動(dòng)化思考”等方法打開(kāi)新道路。

然而，推理模型雖然在復(fù)雜任務(wù)上表現(xiàn)強(qiáng)，但速度慢、成本高，不適合 ChatGPT 的日常用途。這使得兩派在資源分配上不斷拉扯。

隨著外部壓力升級(jí)，OpenAI 決定加快推出更快、更強(qiáng)的新版本模型。公司將于近期發(fā)布 5.2 版本，并計(jì)劃在 1 月發(fā)布具備更好速度、圖像能力和更平衡性格的新模型，屆時(shí)結(jié)束“紅色警報(bào)”狀態(tài)。

公司表示，未來(lái)會(huì)在用戶(hù)反饋—專(zhuān)家審查—安全測(cè)試的組合機(jī)制中尋找平衡，既提升模型親和度，又防止再次出現(xiàn)“過(guò)度迎合”的風(fēng)波。

OpenAI 今天面臨的抉擇，與社交媒體巨頭多年來(lái)的路徑選擇類(lèi)似：是優(yōu)先追求用戶(hù)規(guī)模與商業(yè)增長(zhǎng)，還是堅(jiān)持長(zhǎng)期研發(fā)與遠(yuǎn)期愿景？

這家公司需要同時(shí)滿(mǎn)足三類(lèi)壓力：