唯有了解基準測試的衡量指標、方式及對照基準,AI 圖像模型基準測試才有意義。若要客觀評估圖像生成 API,您必須執行標準化的測試工具,在相同條件下測量延遲、成本與輸出品質。本指南提供了一套具體且可重現的基準測試方法,包含 Python 測試工具、自動化評估策略以及當前的市場定價數據。
重點摘要
- 標準化基準是必要的:具說服力的 AI 圖像模型基準測試必須在各供應商之間使用固定的提示詞(prompts)、固定的解析度與固定的種子值(seeds),以隔離真正影響產品的變數。
- 自動化品質評分:僅依賴人工評分對於生產環境的管線來說太慢且成本過高。應結合自動化指標(CLIP、FID)與「以 LLM 作為評審」(LLM-as-a-judge)的框架,利用 Claude Sonnet 5 或 GPT-5.5 等模型來評估提示詞的遵循度。
- 標準化定價結構:各供應商的計費方式不同(按圖像、按百萬像素或按運算秒數計費)。在比較原始數據前,請先將所有成本標準化為統一單位(例如:每 1 百萬像素圖像的成本)。
- 追蹤版本偏移:使用如 TokenLab 模型排行榜 等持續更新的排行榜,來追蹤供應商發布新檢查點(checkpoints)後的排名變化,而非僅依賴單一時間點的測試。
當前圖像模型定價與來源快照
為了標準化您的基準測試成本,您必須追蹤目標 API 的精確定價模型。下表顯示直接取自供應商文件及 TokenLab 即時模型註冊表的當前定價數據。
供應商定價來源快照(截至 2026 年 7 月)
| 供應商 / 來源 | 模型系列 | 定價結構 | 基本費率 (USD) |
|---|---|---|---|
| Black Forest Labs Docs | FLUX.2 | 基於百萬像素的點數 (1 點 = $0.01) | Klein 4B: $0.014/image Klein 9B: $0.015/image Pro: $0.03/image (T2I) Max: $0.07/image Flex: $0.05/image |
| fal.ai Docs | FLUX.2 | 按百萬像素計費 | Dev: From $0.012/MP Pro: From $0.03/MP Flex: From $0.05/MP Max: From $0.07/MP |
| TokenLab Registry | Gemini Image Series | 按 Token / 按圖像計費 | Nano Banana 2 (Gemini 3.1 Flash Image): $0.50/MTok input, $3.00/MTok output Nano Banana Pro (Gemini 3 Pro Image): $2.00/MTok input, $12.00/MTok output |
具體模型比較表
下表比較了當前的圖像生成模型,以及在自動化基準測試管線中用於評估這些模型的 LLM。
| 模型名稱 (SSOT) | 主要模態 | TokenLab 成本指標 | 鎖定 / 輸入價格 | 輸出價格 |
|---|---|---|---|---|
| flux-2-klein-4b | 圖像生成 | per_image | $0.014000 (lock) | N/A |
| flux-2-klein-9b | 圖像生成 | per_image | $0.015000 (lock) | N/A |
| flux-2-flex | 圖像生成 | per_image | $0.050000 (lock) | N/A |
| flux-2-max | 圖像生成 | per_image | $0.070000 (lock) | N/A |
| flux-1-dev | 圖像生成 | per_image | $0.025000 (lock) | N/A |
| gemini-3.1-flash-image | 圖像生成 | per_token | $0.500000 / MTok | $3.000000 / MTok |
| gemini-3-pro-image | 圖像生成 | per_token | $2.000000 / MTok | $12.000000 / MTok |
| claude-sonnet-5 | LLM Judge / Text | per_token | $3.000000 / MTok | $15.000000 / MTok |
| gpt-5.5 | LLM Judge / Text | per_token | $5.000000 / MTok | $30.000000 / MTok |
為什麼供應商發布的基準測試不足以參考
大多數圖像模型供應商發布的比較數據都傾向於自家模型。根據社群運行的測試以及 Replicate 部落格發布的供應商分析(觀察於 2026 年 7 月),圖像模型的效能與輸出品質會根據提示詞風格、長寬比以及生成過程中使用的特定採樣步驟而有顯著差異。
如果您正在為生產環境功能選擇 API,您需要一套能控制這些變數的方法。單一經過挑選的提示詞(顯示模型 A 看起來比模型 B 好)無法說明模型 A 在您使用者實際提交的數百個提示詞中的失敗率。
自動化 AI 圖像評估與人工評分
雖然人工評分對於最終的健全性檢查很有用,但它們太慢、太昂貴且過於主觀,無法規模化。生產級的基準測試需要自動化評估指標來為圖像品質和提示詞遵循度評分。
1. 自動化圖像品質指標
- Fréchet Inception Distance (FID):測量生成圖像的分佈與真實目標圖像數據集之間的相似度。FID 分數越低,代表圖像品質越高、越真實。
- Inception Score (IS):根據兩個標準評估生成圖像:圖像中物體的清晰度(類別分佈的熵值低)以及生成圖像在各類別間的多樣性。
- CLIP Score:使用 OpenAI 的 Contrastive Language-Image Pre-training (CLIP) 模型來測量輸入提示詞與生成圖像之間的語意相似度。這為提示詞遵循度提供了一個自動化且客觀的指標。
2. 「以 LLM 作為評審」框架
為了自動化主觀評估,您可以使用多模態 LLM(如 Claude Sonnet 5 或 GPT-5.5)作為評審。評審模型會接收原始提示詞與生成的圖像,然後根據嚴格的評分標準,以 1-5 分的量表對圖像進行評分。
[Input Prompt] ---> [Image Generation API] ---> [Generated Image]
|
v
[Evaluation Rubric] -------------------------> [Multimodal LLM Judge]
|
v
[Score: 1-5 + Reasoning]
具體實作:Python 基準測試工具
以下是一個功能性的 Python 腳本,用於基準測試圖像生成延遲並儲存輸出以供評估。此腳本以託管在 fal.ai 上的 FLUX.2 API 為例。
import os
import time
import json
import requests
# Configuration
FAL_API_KEY = os.environ.get("FAL_API_KEY")
API_URL = "https://queue.fal.run/fal-ai/flux/dev" # Example endpoint
HEADERS = {
"Authorization": f"Key {FAL_API_KEY}",
"Content-Type": "application/json"
}
# Standardized prompt set
BENCHMARK_PROMPTS = [
{
"id": "photo_01",
"prompt": "A professional headshot of an engineer in a brightly lit office, photorealistic, 8k resolution",
"sync_aspect_ratio": "1:1"
},
{
"id": "text_01",
"prompt": "A neon sign on a brick wall that clearly reads the word 'TokenLab' in bright blue light",
"sync_aspect_ratio": "16:9"
}
]
def run_benchmark_image(prompt_data):
payload = {
"prompt": prompt_data["prompt"],
"image_size": "1024x1024" if prompt_data["sync_aspect_ratio"] == "1:1" else "1344x768",
"seed": 42, # Fixed seed to isolate model variance
"num_inference_steps": 28
}
start_time = time.time()
try:
response = requests.post(API_URL, json=payload, headers=HEADERS, timeout=30)
latency = time.time() - start_time
if response.status_code == 200:
result = response.json()
image_url = result.get("images", [{}])[0].get("url", "")
return {
"id": prompt_data["id"],
"status": "success",
"latency_seconds": round(latency, 3),
"image_url": image_url,
"error": None
}
else:
return {
"id": prompt_data["id"],
"status": "failed",
"latency_seconds": round(latency, 3),
"image_url": None,
"error": f"HTTP {response.status_code}: {response.text}"
}
except Exception as e:
return {
"id": prompt_data["id"],
"status": "error",
"latency_seconds": round(time.time() - start_time, 3),
"image_url": None,
"error": str(e)
}
if __name__ == "__main__":
results = []
for item in BENCHMARK_PROMPTS:
print(f"Running benchmark for: {item['id']}...")
res = run_benchmark_image(item)
results.append(res)
print(json.dumps(results, indent=2))
建立公平的正面對決測試
公平的比較需要控制那些與模型品質無關,但會嚴重影響測量延遲的基礎設施變數。
基準測試檢查清單
- 地理位置一致性:從相同的雲端區域(例如
us-east-1)執行所有 API 請求,以最小化網路傳輸變異。 - 全天候測試:在離峰與尖峰時段執行測試,以捕捉供應商的限流與容量問題。
- 記錄確切檢查點:在測試前查詢每個供應商的當前模型列表。預設模型版本會無預警變更,就像我們在 OpenRouter 比較 中所涵蓋的,路由行為在各 LLM 聚合器之間會有所不同。
- 固定參數:在所有支援這些參數的模型中,固定種子值、步驟數與引導比例(guidance scale)。
- 記錄 HTTP 狀態碼:記錄原始錯誤回應,以識別靜默失敗或激進的內容過濾。
圖像基準測試在更廣泛的 API 策略中的定位
如果您正在建構一個跨越多種 AI 模態的產品,圖像模型的選擇很少是孤立的。評估圖像 API 的團隊通常同時也在比較同一產品路線圖中的影片生成 API 與程式碼生成模型,而相同的基準測試規範(固定測試集、標準化成本、追蹤版本)適用於所有這三者。
如需更深入的類別特定比較,請參閱我們關於 2026 年 API 最佳 AI 影片模型、2026 年 API 最佳 AI 圖像模型 以及 2026 年最佳 AI 程式碼模型 的指南。
如果您想要一個起點而不是從零開始建構測試工具,請將您的結果與 TokenLab 模型排行榜 進行交叉比對,該排行榜會彙整各供應商的比較數據,並隨著新檢查點的發布而更新。
來源快照與注意事項
圖像基準測試的來源組合應包括供應商定價或產品文件、一個或多個即時模型介面,以及您自己的提示詞語料庫。Black Forest Labs、fal、Replicate、Google 等供應商可以記錄價格單位、模型模式與支援的輸入,但他們的文件無法告訴您您的客戶會偏好哪種輸出。基準測試工具透過保持提示詞集固定並記錄每次輸出、失敗、延遲與成本假設,填補了這一空白。
請將主觀品質與營運適配性分開。一張美麗的圖像如果無法通過安全審查、無法重現品牌顏色,或在重試後成本高出三倍,那它可能就是錯誤的生產選擇。相反地,即使在小型的藝術樣本中表現較差,較便宜的模型可能仍是正確的批次生成器。最有用的報告會將提示詞、模型版本、尺寸、成本單位、失敗原因與審查註記並列顯示,以便日後對建議提出質疑。
常見問題 (FAQ)
我需要多少提示詞才能進行具有統計意義的 AI 圖像模型基準測試?
雖然沒有通用的最小值,但在您的目標類別中測試少於 50 個提示詞往往會產生雜訊多且無法推廣的排名。對於生產級評估,我們建議使用 100 到 300 個提示詞的數據集,並將其拆分為您的核心使用案例,每個案例執行 3 到 5 次以平均採樣變異。
我應該基準測試每次 API 呼叫的成本,還是每次輸出像素的成本?
每百萬像素 (MP) 的成本是比較中最可靠的指標。基礎 API 呼叫定價通常會捆綁不同的預設解析度,導致直接比較產生誤導。請將所有成本標準化為標準單位(例如每 1 MP 圖像的成本),並在我們的 定價比較 頁面上驗證當前費率。
我該如何處理基準測試中的版本偏移?
供應商經常更新其預設模型別名以指向新的檢查點,而不會變更 API 端點名稱。為了偵測這些靜默變更,請設定您的基準測試工具,以記錄 API 回應標頭中傳回的確切模型版本或檢查點字串。
下一步
手動基準測試可以捕捉真實差異,但需要持續的工程時間來維護。立即 開始使用 TokenLab 即時排行榜,自動追蹤各供應商的模型版本、定價與比較效能數據。
來源
價格觀測於 2026-07-07
- Black Forest Labs pricing docs觀測於 2026-07-07
- fal FLUX.2 model page觀測於 2026-07-07
- TokenLab model directory觀測於 2026-07-07
- Replicate blog觀測於 2026-07-07



