ハイブリッドキャッシュ実行フローチャート

A polished vertical systems-architecture infographic showing a seven-step cached chat inference pipeline with dual cache branches, suitable for technical explainers and product presentations.

ライトグレーの背景に、ミニマルな近代的なプロダクト図解スタイルで、丸みのある白いカード、細い色付き縁、シンプルなベクターラインアイコン、ダークネイビーのテキスト、およびネイビーの接続矢印を使用した、クリーンな縦向き技術ワークフローインフォグラフィックを作成。構図は中央に配置された1つの上から下へのフローチャートで、7つの番号付き主要ステップ、ステップ4からステップ5に分岐する2つの並列キャッシュグループパネル、および最左端にステップ7からステップ1に戻る太いダークなリターン矢印が含まれます。クリスプなサンセリフタイポグラフィ、十分な間隔、精妙なパステルカラーのアクセント、グラデーションなし、影なし、プレゼンテーションスライドの明瞭さ。

最上部中央に青い縁とコード/チャットアイコンを持つステップカード1。タイトルテキスト: "1. {argument name="step 1 title" default="chat completions request"}"。その下にサブタイトル: "conversation_id + cache_salt + new suffix messages"。

その下に青い縁とドキュメント/リストアイコンを持つステップカード2。タイトル: "2. Frontend conversation ledger"。サブタイトル: "lease same id + track committed messages"。

その下にシアン色の縁とデータベース＆拡大鏡アイコンを持つステップカード3。タイトル: "3. Exact conversation cache lookup"。サブタイトル: "conversation_id → committed turn state"。

その下に紫の縁とブランチングスケジューラアイコンを持つステップカード4。タイトル: "4. Scheduler cache attachment"。サブタイトル: "set num_computed_tokens + attach committed state"。

ステップ4から下に2つ並んだグループパネルに分岐。

左グループパネル: "Full-attention KV cache group" とタイトルの淡い緑色の丸みのあるコンテナ。内部に2つの内側カードをスタック。最初の内側カードには緑のブロックグリッドアイコン、タイトル "Committed block refs"、サブタイトル "share aligned full KV blocks"。2番目の内側カード（下）には緑の重ねシートアイコン、タイトル "Tail COW copy"、サブタイトル "copy unaligned KV tail"。緑パネルの下部に小さなフッターテキスト: "paged K/V tensors for transformer layers"。

右グループパネル: "Mamba terminal-state cache group" とタイトルの淡い紫色の丸みのあるコンテナ。内部に2つの内側カードをスタック。最初の内側カードには紫のデータベース/ネットワークアイコン、タイトル "Committed terminal state"、サブタイトル "exact state at committed length"。2番目の内側カード（下）には紫の波線アイコン、タイトル "Request-owned terminal copy"、サブタイトル "copy SSM + conv state"。紫パネルの下部に小さなフッターテキスト: "align-mode terminal state placement"。

両グループパネルの出力を中央に配置された青い縁とマイクロチップアイコンを持つステップカード5に統合。タイトル: "5. Hybrid model execution"。サブタイトル: "run only the uncached suffix"。このカードの下部エリアに、左右に並んで2つのピル形ラベル "Transformer layers" と "Mamba layers" を含める。

その下に青い縁とキラキラアイコンを持つステップカード6。タイトル: "6. Decode assistant tokens"。サブタイトル: "stream response token by token"。

その下に暖かい黄色オレンジ色の縁とチェック付きデータベースアイコンを持つステップカード7。タイトル: "7. Commit completed turn"。サブタイトル: "publish pending state or discard on failure"。

最左端を下に回り、ステップ7から下へ上へ戻る太いダークネイビーのループ矢印を追加。この左ループに、下から半分付近に積み重なった注釈テキスト: "next request reuses committed conversation head"。

ステップ7からキャッシュグループパネルに向かって上昇する2つの破線公開矢印を追加: 左に緑の破線矢印をキャッシュ緑パネルに向かって "publish new state" とラベル付き；右に紫の破線矢印をキャッシュ紫パネルに向かって同様に "publish new state" とラベル付き。

正確な合計数7枚の番号付きメインカード、2つのキャッシュグループパネル、4枚の内側キャッシュカード、および2つのピルラベルを維持。カンファレンススライドのアーキテクチャ図に似た縦長のアスペクト比を維持。

機械翻訳 — この作品を生成したのは元のプロンプトです。

✨ 生成 保存 プロンプトをコピー 共有 元の投稿 Hitboard で開く