Hybrid Cache Execution Flowchart

A polished vertical systems-architecture infographic showing a seven-step cached chat inference pipeline with dual cache branches, suitable for technical explainers and product presentations.

在淺灰色背景上建立一個乾淨的垂直技術工作流程資訊圖，使用簡約現代產品圖表風格，搭配圓角白色卡片、細彩色邊框、簡單的向量線條圖標、深海軍藍文字和海軍藍連接箭頭。組成是單一居中從上到下的流程圖，包含 7 個編號的主要步驟，加上 2 個並行的快取群組面板從步驟 4 分支到步驟 5，以及左側有一條粗暗的返回箭頭從底部環繞回頂部。使用清晰的無襯線字體、充足間隔、微妙的柔和強調色，無漸層、無陰影，並具有投影片般的清晰度。

在頂部中央放置步驟卡片 1，帶有藍色邊框和左側的程式碼/聊天圖標。標題文字："1. {argument name="step 1 title" default="聊天完成請求"}"。下方副標題："conversation_id + cache_salt + new suffix messages"。

在其下方放置步驟卡片 2，帶有藍色邊框和文件/列表圖標。標題："2. 前端對話帳本"。副標題："lease same id + track committed messages"。

在其下方放置步驟卡片 3，帶有青色邊框和資料庫加放大鏡圖標。標題："3. 精確對話快取查詢"。副標題："conversation_id > committed turn state"。

在其下方放置步驟卡片 4，帶有紫色邊框和分支排程器圖標。標題："4. 排程器快取附加"。副標題："set num_computed_tokens + attach committed state"。

從步驟 4 向下分支為 2 個並排的群組面板。

左側群組面板：一個淡綠色圓角容器，標題為"全注意力 KV 快取群組"。內部堆疊 2 個內層卡片。第一個內層卡片有綠色方塊網格圖標，標題"已提交區塊參照"，副標題"共享對齊的完整 KV 區塊"。第二個內層卡片在下方有綠色層疊頁圖標，標題"尾部 COW 複製"，副標題"複製未對齊的 KV 尾部"。在綠色面板底部添加小頁尾文字："變換器層的分頁 K/V 張量"。

右側群組面板：一個淡紫色圓角容器，標題為"Mamba 終端狀態快取群組"。內部堆疊 2 個內層卡片。第一個內層卡片有紫色資料庫/網路圖標，標題"已提交終端狀態"，副標題"在提交長度的精確狀態"。第二個內層卡片在下方有紫色波浪線圖標，標題"請求擁有的終端複製"，副標題"複製 SSM + 卷積狀態"。在紫色面板底部添加小頁尾文字："對齊模式終端狀態放置"。

合併兩個群組面板的輸出到一個居中的步驟卡片 5，帶有藍色邊框和微晶片圖標。標題："5. 混合模型執行"。副標題："僅運行未快取的後綴"。在此卡片底部區域內，包含 2 個並排的藥丸形標籤："變換器層" 和 "Mamba 層"。

在其下方放置步驟卡片 6，帶有藍色邊框和閃光圖標。標題："6. 解碼助手詞元"。副標題："逐個詞元串流回應"。

在其下方放置步驟卡片 7，帶有溫暖的黃橙色邊框和資料庫加勾選圖標。標題："7. 提交已完成回合"。副標題："發佈待處理狀態或在失敗時丟棄"。

添加一條粗暗的海軍藍環繞箭頭，沿左側向下運行，從左側頂部附近進入步驟 1，並從步驟 7 底部返回向上。沿著此左側環繞，在下半部分附近放置堆疊的註釋文字："下一個請求重用已提交的對話頭部"。

添加 2 條虛線發佈箭頭從步驟 7 向上升至快取群組面板：左側一條綠色虛線箭頭指向綠色快取面板，標籤為"發佈新狀態"；右側一條紫色虛線箭頭指向紫色快取面板，標籤同樣為"發佈新狀態"。

保持確切總數 7 個編號的主要卡片、2 個快取群組面板、4 個內層快取卡片和 2 個藥丸標籤。保留類似會議投影片架構圖的縱向長寬比。

機器翻譯 — 實際產出作品的是原文 prompt。

✨ 生成 收藏 複製 Prompt 分享 原始貼文 在 Hitboard 開啟