先定義單位,再比較成本
比較 Token 成本前,需要界定工作負載與測量邊界。輸入處理和輸出生成是不同活動;模型、上下文、批處理、質量與延遲都應寫入測試條件。缺少這些信息,兩個數字可能代表不同服務。
建立成本邊界
規劃框架應考慮算力、內存、存儲、網絡、設施容量、電力、冷卻與運營。融資和折舊是否納入,取決於分析目標。需要明確包含哪些成本,避免把工程成本的小計當作完整商業成本。
衡量有效生產
分母應反映在約定服務條件下交付的 Token。需要區分配置產能、基準測試吞吐與持續生產。在我們看來,可復現的測量和透明假設,比單一的通用性價比宣傳更適合支撐產能討論。