リアルタイムの例

examples/ディレクトリにある実行可能な4つの例で、学習の度合いに応じておおよその順序で並んでいます。すべてserver-side bridgeを使用しており、いずれかの OpenAI または Gemini で動作します。まず関連するキーを設定してください。

export OPENAI_API_KEY=sk-…        # for OpenAI sessions
export GEMINI_API_KEY=…           # for Gemini sessions (or GOOGLE_API_KEY)

realtime_tools

ヘッドレス。最初に読むのに最も明確です。 コンソールプローブ(ブラウザなし)で、IntegratedRealtimeRunner上でtool dispatchを試します。シングルツール、パラレルツール、および計算機によるターンがあり、セッション/メモリ/トランスクリプトの集約が組み込まれています。ツールターンがどのように流れるかの最小限のエンドツーエンドの全体像です。

cargo run --manifest-path examples/realtime_tools/Cargo.toml

runnerを理解するためにここから始めてください。その後、音声についてはウェブの例に進んでください。


realtime_voiceMindfulness with Mia

主力製品。 完全なウェブ音声アプリです。ブラウザがマイクのPCM16をキャプチャし、エージェントを途切れることなく再生し、割り込みも可能です。Rustサーバーがセッションを所有します。その際立った特徴はmemoryです。ファイルベースの**GraphMemoryService**がMiaの長期記憶です。彼女のプロフィールカードはセッション開始時に挿入され、すべてのターンがグラフに記録され、ブリッジされたremember/relateツールを介して会話中に永続的な事実を管理します。ライブの「User Memory Insights」パネルは、/api/memoryを介して同じグラフを読み書きします。また、サーバーサイドのget_weatherツールも示しています。

ライトダーク
Miaとのマインドフルネス — ライトテーマMiaとのマインドフルネス — ダークテーマ
cargo run --manifest-path examples/realtime_voice/Cargo.toml
# → http://localhost:3033

用途: Web Audio キャプチャ/再生、knowledge-graph 記憶、agent 自己キュレーション。


customer_serviceAria

マルチモーダルなショーケース。 Googleの「カスタマーサービス Agent」Live API デモを再設計したもの — バックエンドに依存せず、Rustで実装され、テーマ(システム/ライト/ダーク)対応の3カラムUIを備えています。すべてを組み合わせたものです。

  • マルチモーダル — マイクのPCM カメラのJPEGフレームをストリーミングします。Ariaはあなたが見せるものを見ます (send_video_frame)。
  • Toolsprocess_refundconnect_to_human はサーバーサイドで実行され、結果は音声で返されます。
  • 情動対話 — 両方のバックエンドで共感的です。CS_AFFECTIVE=1 はGeminiをnative-audio modelに切り替え、真のトーンマッチングを実現します。
ライトダーク
カスタマーサービスエージェント — ライトテーマカスタマーサービスエージェント — ダークテーマ
cargo run --manifest-path examples/customer_service/Cargo.toml
# → http://localhost:3066

# headless smoke test (verifies the refund tool runs):
cargo run --manifest-path examples/customer_service/Cargo.toml -- probe openai
cargo run --manifest-path examples/customer_service/Cargo.toml -- probe gemini

# enable Gemini native affective dialogue:
CS_AFFECTIVE=1 cargo run --manifest-path examples/customer_service/Cargo.toml

用途: ビデオ入力、マルチモーダル + ツール + 感情を1つのエージェントで組み合わせる。


live_translation

専用モデルの例。 リアルタイムの音声間翻訳機:英語を話すと、数秒後にスペイン語が聞こえます。同じブリッジですが、プロバイダーの翻訳モデル — OpenAI gpt-realtime-translate と Gemini gemini-3.5-live-translate-preview — を指しています。これらは会話モデルとは異なるプロトコルを使用します。UIでターゲット言語を選択します。サーバーは、オーディオが流れる前にプロバイダーごとのオーディオレートをネゴシエートします。

ライトダーク
ライブ翻訳 — ライトテーマライブ翻訳 — ダークテーマ
cargo run --manifest-path examples/live_translation/Cargo.toml
# → http://localhost:3055
cargo run --manifest-path examples/live_translation/Cargo.toml -- probe openai

用途: 専用の翻訳モデルと、焦点を絞った最小限のブリッジを使用するため。


推奨されるパス

  1. realtime_tools — runner とツールの実行を確認します。音声ノイズはありません。
  2. realtime_voice — 実際の音声とナレッジグラフメモリを追加します。
  3. customer_service — 視覚と感情を追加します。完全なマルチモーダル Agent です。
  4. live_translation — 特殊なモデルとプロトコル。

example ディレクトリ内の各 README.md には、完全な環境変数テーブル、モデルのオーバーライド (OPENAI_REALTIME_MODEL / GEMINI_REALTIME_MODEL)、およびアーキテクチャに関する注記が含まれています。

リアルタイム概要に戻る