用於快速代理迴圈的 Gemini 3.5 Flash API

代理工作流程（Agentic workflows）代表了開發人員與大型語言模型互動方式的重大轉變。代理不再是單一的提示與回應互動，而是在一個連續的迴圈中運作。它會分析目標、確定所需的工具、執行這些工具、觀察結果，並決定是繼續執行還是向使用者呈現最終輸出。

在這種迭代環境中，執行速度是最關鍵的因素。如果五步迴圈中的每一步都需要幾秒鐘，使用者體驗就會因高延遲而受損。這正是 Gemini 3.5 Flash API 成為開發人員重要工具的原因。它專為高速、低延遲任務而設計，讓開發人員能夠在不產生高昂成本的情況下構建響應迅速的代理迴圈。

主要重點

• 亞秒級延遲：Gemini 3.5 Flash API 提供快速的回應時間，防止多輪代理迴圈停滯。
• 成本效益：極具競爭力的定價結構使得連續的工具呼叫迴圈在生產部署中變得經濟實惠。
• 原生工具呼叫：內建的函式呼叫支援確保模型結構化的輸出符合您的應用程式架構。
• 大上下文視窗：龐大的上下文容量允許代理在迭代迴圈期間攝取大量的系統日誌、程式碼庫或文件。

---

為什麼速度和成本在代理工作流程中至關重要

當代理執行任務時，它很少在單一輪次內完成。典型的代理迴圈涉及規劃、工具選擇、執行、觀察和反思。如果您的代理依賴於緩慢的旗艦模型，一個五步迴圈很容易需要 15 到 20 秒才能完成。這種延遲對於即時使用者介面或互動式聊天應用程式來說是不可接受的。

透過使用 Gemini 3.5 Flash API，開發人員可以將步驟延遲降低到不到一秒。這種速度使代理能夠快速迭代，糾正自身錯誤並從外部工具收集資訊，而無需讓使用者等待。

代理迴圈非常消耗 Token。每次迭代都會將整個對話歷史記錄（包括先前的工具輸出和系統指令）發送回模型。高昂的 Token 成本很快會使代理功能在財務上不可行。根據 Google AI 定價文件，Gemini 3.5 Flash 的結構旨在為每百萬輸入和輸出 Token 提供極其經濟的費率，使其成為與 DeepSeek V4 Flash 和 GLM-5.2 等其他高效模型並列進行低成本路由的絕佳選擇。您可以透過閱讀我們關於 AI 模型定價比較 的分析來詳細比較這些費率。

---

使用 Gemini 3.5 Flash 實作快速代理迴圈

要構建代理迴圈，您需要配置模型以識別外部工具，並在需要這些工具時返回結構化參數。Gemini 3.5 Flash API 支援原生函式呼叫，這允許您將應用程式工具定義為 JSON 架構。

以下 Python 範例示範了如何使用官方 Google GenAI SDK 設定基本的代理迴圈。此迴圈允許代理檢查伺服器狀態並在必要時重新啟動它。

import os
from google import genai
from google.genai import types

# Initialize the client using the environment variable
client = genai.Client()

# Define mock tools for our agent
def get_server_status(server_id: str) -> str:
    """Check the current status of a specific server."""
    if server_id == "srv-99":
        return "offline"
    return "online"

def restart_server(server_id: str) -> str:
    """Restart a specific server and return the new status."""
    print(f"[Tool] Restarting server {server_id}...")
    return "online"

# Map tool names to actual Python functions
tools_map = {
    "get_server_status": get_server_status,
    "restart_server": restart_server
}

# Define the tools for the Gemini API
api_tools = [get_server_status, restart_server]

# System instructions to guide the agent behavior
system_instruction = (
    "You are an automated systems administrator. Your goal is to ensure all "
    "servers are online. If a server is offline, use the restart_server tool "
    "to bring it back online. Always check the status first."
)

def run_agent_loop(prompt: str):
    print(f"User Prompt: {prompt}")
    
    # Start a chat session to maintain conversation history automatically
    chat = client.chats.create(
        model="gemini-3.5-flash",
        config=types.GenerateContentConfig(
            system_instruction=system_instruction,
            tools=api_tools,
            temperature=0.1
        )
    )
    
    # Send the initial user prompt
    response = chat.send_message(prompt)
    
    # Run the agent loop
    max_iterations = 5
    for iteration in range(max_iterations):
        # Check if the model wants to call a function
        if not response.function_calls:
            # No more tool calls; the agent has finished its task
            print(f"\nAgent Final Response: {response.text}")
            break
            
        for function_call in response.function_calls:
            tool_name = function_call.name
            tool_args = function_call.args
            call_id = function_call.id
            
            print(f"\n[Agent] Decided to call tool: {tool_name} with args: {tool_args}")
            
            # Execute the corresponding local function
            if tool_name in tools_map:
                tool_output = tools_map[tool_name](tool_args)
                print(f"[System] Tool output: {tool_output}")
                
                # Send the tool execution result back to the model
                response = chat.send_message(
                    types.Part.from_function_response(
                        name=tool_name,
                        response={"result": tool_output},
                        id=call_id
                    )
                )
            else:
                print(f"Error: Tool {tool_name} is not registered.")
                return

if __name__ == "__main__":
    # Run the agent on a known offline server
    run_agent_loop("Please check the status of server srv-99 and make sure it is running.")

---

將 Gemini 3.5 Flash 與其他代理模型進行比較

在為您的代理架構選擇模型時，了解 Gemini 3.5 Flash 在更廣泛的生態系統中的位置會很有幫助。雖然像 Claude Fable 5 或 GPT-5.5 這樣的旗艦模型在複雜推理和高階規劃方面表現出色，但它們通常太慢且太昂貴，無法用於多輪代理迴圈的每一個步驟。

對於構建高頻迴圈的開發人員來說，Gemini 3.5 Flash 直接與 DeepSeek V4 Flash、GLM-5.2 和 Laguna XS 2.1 等其他快速、低成本的選項競爭。

模型名稱	主要使用場景	代理迴圈中的優勢	成本概況
Gemini 3.5 Flash	快速代理迴圈與多模態任務	亞秒級延遲、原生工具呼叫、大上下文視窗	極低
DeepSeek V4 Flash	低成本文字與路由	極其便宜的輸入/輸出 Token，快速生成	極低
Claude Sonnet 5	複雜程式碼編寫與多步推理	工具選擇準確度高，出色的程式碼生成能力	中等
GLM-5.2	開放權重代理任務	強大的本地/私有部署選項，穩固的工具支援	低

對於需要專業程式碼編寫代理的任務，開發人員通常會將複雜的子任務路由到 Kimi K2.7 Code 或 Claude Sonnet 5 等模型，同時將主要編排迴圈保留在 Gemini 3.5 Flash 上，以最大限度地減少整體延遲。您可以在我們關於 最佳程式碼編寫 AI 模型 的指南中進一步探索這些編碼動態。

---

優化代理效能的最佳實踐

為了在您的代理工作流程中充分利用 Gemini 3.5 Flash API，請考慮實施以下策略：

1. 保持系統指令簡潔：儘管 Gemini 3.5 Flash 支援大上下文視窗，但在每一輪處理大量的系統提示會增加額外的延遲。請保持您的指令清晰直接。
2. 實施嚴格解析：確保您的應用程式能優雅地處理模型無法正確呼叫工具的情況。使用結構化輸出或 JSON 架構來強制執行回應格式。
3. 使用上下文快取：如果您的代理需要在每一輪參考龐大的程式碼庫、文件集或資料庫架構，請使用 Gemini 的上下文快取功能來降低成本和處理時間。
4. 動態路由：使用混合方法。讓 Gemini 3.5 Flash 處理快速、重複的工具呼叫迴圈。如果代理遇到高度複雜的推理區塊，將該特定提示路由到更大的模型（如 Claude Sonnet 5 或 GPT-5.5），然後將結果返回給快速迴圈。

若要了解這些模型在各種開發者平台上的比較情況，請查看我們 全面的 OpenRouter 比較。

---

常見問題解答

Gemini 3.5 Flash 如何處理代理迴圈中的多模態輸入？

Gemini 3.5 Flash 是原生的多模態模型。這意味著您的代理可以直接在迴圈內處理圖像、音訊和影片，而無需額外的轉錄或視覺模型。對於需要大量圖像處理的應用程式，您也可以查看專門的圖像 API，例如 Nano Banana 2 (Gemini 3.1 Flash Image) 或 Nano Banana Pro (Gemini 3 Pro Image)。

Gemini 3.5 Flash 的最大上下文視窗是多少？

Gemini 3.5 Flash 支援大上下文視窗，允許代理處理數十萬個 Token。這對於需要在執行迴圈期間分析長對話歷史、大量系統日誌或大型程式碼檔案的代理特別有用。

我可以將 Gemini 3.5 Flash 部署在自己的基礎設施上嗎？

不能，Gemini 3.5 Flash 是一個透過 Google 雲端 API 存取的專有模型。如果您的應用程式因隱私或合規性原因需要自託管或開放權重的解決方案，您應該考慮 GLM-5.2、DeepSeek V4 Pro 或 Qwen3.7 Plus 等模型。

---

開始使用 TokenLab

準備好構建、測試和優化您的代理工作流程了嗎？追蹤 Gemini 3.5 Flash 和其他領先模型的即時效能指標、延遲基準和定價更新。

探索 TokenLab 模型排行榜，為您的下一個專案找到完美的模型，並立即開始優化您的 API 成本。