廣告

比石油更短缺!Claude用戶喊額度燒太快 AI算力消耗恐成產業發展絆腳石

Anthropic近期頻頻當機,迫使公司調整使用額度機制,讓用戶哀號不夠用。法新社 zoomin
Anthropic近期頻頻當機,迫使公司調整使用額度機制,讓用戶哀號不夠用。法新社
分享 分享 連結 訂閱 APP

【編譯張翠蘭/綜合外電】人工智慧(AI)應用越來越普及,大量使用者已經開始依賴這些工具來提高生產力。然而外媒周日(4/12)指出,AI淘金熱正在迅速消耗運算能力,導致產品和效能問題,包括Anthropic頻繁當機、OpenAI放棄Sora影片生成器以釋放運算資源,輝達(Nvidia)GPU現貨租賃成本在兩個月內上漲48%。

📌 本文摘要重點

(AI 摘要說明)
1 輝達Blackwell晶片租賃價兩月內飆漲48%,顯示AI算力供需失衡加劇,企業營運成本壓力驟增。
2 Anthropic與OpenAI因算力不足被迫限制用戶額度或擱置Sora等專案,導致企業客戶流失至競爭對手。
3 OpenAI API代幣使用量從去年10月每分鐘60億次,激增至今年3月150億次,反映自主AI代理需求爆炸。

《華爾街日報》4月12日報導,科技公司近期嚴重的運算能力短缺,已引起高級用戶的擔憂,這對AI熱潮來說是一個警示訊號,因為可能會限制強大的新型AI工具的效用,對於越來越依賴這些工具來提高生產力的大量使用者來說,更是一項衝擊。

過去幾個月來,各界對「代理AI」的需求呈現爆炸性成長。這類自主工具利用AI技術獨立執行各種任務,從編寫軟體程式碼,到為房地產經紀人安排房屋參觀,無所不包。各公司都在爭相確保所需的運算能力,以滿足不斷增長的客戶群的需求,而這些客戶對AI的使用也在顯著增加。

科技投資人:世界真正短缺是代幣

洛杉磯的工程師兼科技投資人普拉迪安(Ben Pouladian) 說:「每個人都在談論石油,但我認為世界真正短缺的是代幣。」代幣(token)是AI領域的一種計量單位,用來追蹤某項任務所使用的運算資源量。 

普拉迪安說:「如今的AI,不再只是我們站在冰箱前向其詢問食譜的聊天機器人。它能夠協調任務,而且變得越來越智慧。」

歷史上每一次技術繁榮時期都會出現這類問題,從19世紀的鐵路擴張到21世紀初的電信和網際網路爆炸式增長,都是如此。需求成長速度遠超過企業獲取資源和建設基礎設施的能力。歷史上,漲價一直是解決供應短缺的少數途徑之一,但對於正處於激烈用戶競爭中的尖端AI公司而言,此舉可能十分危險。

Claude高峰時段限制用量

報導指出,用於訓練和運行AI模型的微晶片GPU租賃價格,自去年秋季以來大幅上漲。熱門聊天機器人Claude開發商Anthropic公司近期飽受頻繁當機的困擾。該公司已開始在高峰時段對用戶的運算資源進行計量,但由於客戶抱怨計算資源消耗過快,這項措施並未有效執行。

Anthropic正值爆炸性成長之際,2025年底實現90億美元的年化收入,到了今年2月份,這一數字飆升至140億美元。兩個月後,又翻了一番,達到300億美元。

然而3月下旬,Anthropic突然宣布,將調整用戶在太平洋時間工作日凌晨5時至上午11時(台灣時間晚間8時至凌晨2時)高峰時段可消耗的額度機制,這段期間用戶將更快消耗配額,也更易觸及單次使用上限。用戶紛紛在社群媒體上抱怨這項變化,1位用戶在X平台發文寫道:「先前,我有好幾周都沒用完Claude Code的用量限制,但這周我45分鐘就用完了。」

由於Anthropic系統當機已變得非常頻繁,以至於一些企業客戶正在轉向其他AI模型供應商。軟體開發平台Retool創辦人兼執行長David Hsu坦言,之前一向使用Anthropic的 pus 4.6模型,但最近已把驅動公司的AI代理工具,更換為OpenAI的模型。

OpenAI在3月宣布停止Sora服務。法新社 zoomin
OpenAI在3月宣布停止Sora服務。法新社

OpenAI放棄Sora以釋放運算資源

《華爾街日報》稍早也報導,OpenAI放棄其Sora影片生成器的部分原因,是為了釋放運算資源,以支援基於代號為「Spud」的新AI模型開發。

OpenAI的API一站式平台代幣使用量,從去年10月的每分鐘60億次,今年3月下旬飆升至每分鐘150億次。

OpenAI財務長弗里亞(Sarah Friar)坦言「確實花了很多時間尋找任何可用的臨時計算資源。目前,由於計算資源不足,我們不得不做出一些非常艱難的取捨,放棄一些原本計劃展開的項目。」

全球最大的上市AI雲端公司之一CoreWeave,去年底把價格提高20%以上,並開始要求小型客戶簽署至少3年的服務使用合約,大幅高於先僅為1年的期限。

總部位於紐約的數據提供商Ornn稱,近幾個月來,輝達GPU(圖形處理器)在資料中心雲端的現貨市場價格均大幅上漲。根據Ornn計算的價格指數,租用輝達最先進的Blackwell系列晶片,1小時的費用為4.08美元(約130元台幣),比兩個月前的2.75美元(約87.5元台幣)上漲48%。

知嚴選

⭐️ 即刻下載!無蓋版廣告純淨版《知新聞》App

# AI # Anthropic # OpenAI # 代理AI