OpenAI 測試 AMD 與 Cerebras 晶片應對 Nvidia 推理速度限制影響編碼工作負載
OpenAI 在 2025 年開始尋找 Nvidia 推理硬件以外的選擇,內部團隊當時指出,該公司在程式碼生成和軟件對軟件任務上面臨速度瓶頸。其後,OpenAI 與 Cerebras 簽署協議,並評估使用 AMD GPU,期望在未來約 10% 的推理需求上改用替代方案,而與 Groq 的談判則在 Groq 與 Nvidia 達成 200 億美元授權協議後告終。另一項涉及 Nvidia 擬向 OpenAI 投資最高 1000 億美元的計劃仍未落實,儘管兩家公司公開強調,OpenAI 的大部分推理集群依然由 Nvidia 提供運算能力。