MCPcopy
hub / github.com/langfuse/langfuse

github.com/langfuse/langfuse @v3.203.3 sqlite

repository ↗ · DeepWiki ↗ · release v3.203.3 ↗
8,852 symbols 36,244 edges 2,895 files 652 documented · 7%
README

Langfuse GitHub Banner

  <h3>
      <a href="https://langfuse.com/jp">
        <strong>🇯🇵 🤝 🪢</strong>
     </a> · 
     <a href="https://cloud.langfuse.com">
        <strong>Langfuse Cloud</strong>
     </a> · 
     <a href="https://langfuse.com/docs/deployment/self-host">
        <strong>セルフホスティング</strong>
     </a> · 
     <a href="https://langfuse.com/demo">
        <strong>デモ</strong>
     </a>
  </h3>







  <a href="https://langfuse.com/docs"><strong>ドキュメント</strong></a> ·
  <a href="https://langfuse.com/issues"><strong>バグ報告</strong></a> ·
  <a href="https://langfuse.com/ideas"><strong>機能リクエスト</strong></a> ·
  <a href="https://langfuse.com/changelog"><strong>変更履歴</strong></a> ·
  <a href="https://langfuse.com/roadmap"><strong>ロードマップ</strong></a> ·

Langfuseは、サポートと機能リクエストのために GitHub Discussions を利用しています。

We're hiring. チームに加わる (製品エンジニアリングおよびテクニカルGTMのポジション)への応募をお待ちしています。

MIT License Y Combinator W23 Docker Pulls langfuse Python package on PyPi langfuse npm package

chat on Discord follow on X(Twitter) follow on LinkedIn Commits last month Issues closed Discussion posts

README in English 简体中文版自述文件 日本語のREADME README in Korean

LangfuseはオープンソースのLLMエンジニアリングプラットフォームです。
チームが共同でAIアプリケーションを開発、監視、評価、およびデバッグするのを支援します。
Langfuseは数分でセルフホスト可能で、多くの実績を持つシステムです。

Langfuse Overview Video

✨ コア機能

Langfuse Overview

  • LLMアプリケーションの可観測性:
    アプリケーションにインストゥルメンテーションを導入し、Langfuseへトレースを取り込むことで、LLM呼び出しやリトリーバル、埋め込み、エージェントアクションなどの関連ロジックを追跡できます。
    複雑なログやユーザーセッションを解析・デバッグできます。
    インタラクティブなデモで動作を確認してください。

  • プロンプト管理:
    プロンプトを一元管理し、バージョン管理しながら共同で改善を行えます。
    サーバーおよびクライアント側で強力なキャッシングを行うため、アプリケーションのレイテンシを増やすことなくプロンプトの改良が可能です。

  • 評価:
    評価はLLMアプリケーション開発ワークフローの要であり、Langfuseは多様なニーズに対応します。
    LLMを判定者として用いる方法、ユーザーフィードバックの収集、手動によるラベリング、API/SDKを通じたカスタム評価パイプラインをサポートします。

  • データセット:
    LLMアプリケーション評価用のテストセットやベンチマークを構築できます。
    継続的な改善、事前デプロイテスト、構造化された実験、柔軟な評価、さらにLangChainやLlamaIndexなどとのシームレスな統合をサポートします。

  • LLMプレイグラウンド:
    プロンプトやモデル設定のテスト・反復作業を支援するツールで、フィードバックループを短縮し開発を加速します。
    トレースで不具合が見つかった場合、直接プレイグラウンドへ飛び、迅速に改善できます。

  • 包括的なAPI:
    LangfuseはAPIを通じて提供されるビルディングブロックを用い、カスタムLLMOpsワークフローの基盤として頻繁に利用されます。
    OpenAPI仕様、Postmanコレクション、PythonやJS/TS向けの型付きSDKが利用可能です。

📦 Langfuseのデプロイ

Langfuse Deployment Options

Langfuse Cloud

Langfuseチームによるマネージドデプロイメント。充実した無料プラン(ホビープラン)で、クレジットカード不要です。

<a href="https://cloud.langfuse.com" target="_blank">
    <img alt="Static Badge" src="https://img.shields.io/badge/»%20Sign%20up%20for%20Langfuse%20Cloud-8A2BE2?&color=orange">
</a>

セルフホスティング Langfuse

自身のインフラ上でLangfuseを実行できます:

  • Local (docker compose):
    Docker Composeを使用して、たった5分で自分のマシン上でLangfuseを実行できます.

```bash # 最新のLangfuseリポジトリのコピーを取得 git clone https://github.com/langfuse/langfuse.git cd langfuse

# Langfuseのdocker composeを起動 docker compose up ```

  • Kubernetes (Helm):
    Helmを使用してKubernetesクラスター上でLangfuseを実行します。
    こちらが推奨される本番環境でのデプロイ方法です。

  • VM:
    Docker Composeを使用して、単一の仮想マシン上でLangfuseを実行します。

  • Terraform テンプレート: AWS, Azure, GCP

セルフホスティングのドキュメントを参照し、アーキテクチャや設定オプションの詳細をご確認ください。

🔌 インテグレーション

Langfuse Integrations

主なインテグレーション:

インテグレーション 対応言語・環境 説明
SDK Python, JS/TS SDKを利用して手動でインストゥルメンテーションを実装し、完全な柔軟性を提供します。
OpenAI Python, JS/TS OpenAI SDKのドロップイン置換による自動インストゥルメンテーションを実現します。
Langchain Python, JS/TS Langchainアプリケーションにコールバックハンドラーを渡すことで自動的に計測します。
LlamaIndex Python LlamaIndexのコールバックシステムを介して自動的にインストゥルメントします。
Haystack Python Haystackのコンテンツトレースシステムを利用した自動インストゥルメンテーションを実現します。
LiteLLM Python, JS/TS (proxy only) GPTのドロップイン置換として任意のLLMを使用できます。Azure、OpenAI、Cohere、Anthropic、Ollama、VLLM、Sagemaker、HuggingFace、Replicate(100+ LLM)に対応。
Vercel AI SDK JS/TS React、Next.js、Vue、Svelte、Node.jsを使用してAI搭載アプリケーションの構築を支援するTypeScriptツールキットです。
API 公開APIを直接呼び出すことが可能です。OpenAPI仕様も利用できます。

Langfuseと統合されているパッケージ:

名前 タイプ 説明
Instructor ライブラリ 構造化されたLLM出力(JSON、Pydantic)を取得するためのライブラリ
DSPy ライブラリ LLMプロンプトや重み付けを体系的に最適化するためのフレームワーク
Mirascope ライブラリ LLMアプリケーション構築用のPythonツールキット
Ollama モデル(ローカル) オープンソースLLMを手軽にローカルで実行するためのツール
Amazon Bedrock モデル AWS上でファウンデーションモデルやファインチューニング済みモデルを実行
Google VertexAI and Gemini モデル Google上でファウンデーションモデルやファインチューニング済みモデルを実行
AutoGen エージェントフレームワーク 分散型エージェント構築のためのオープンソースLLMプラットフォーム
Flowise チャット/エージェント UI JS/TSのノーコードビルダーで、カスタマイズ可能なLLMフローを構築
Langflow チャット/エージェント UI PythonベースのUIで、react-flowを用いてLangChainの実験やプロトタイピングを容易に実現
Dify チャット/エージェント UI ノーコードでLLMアプリ開発が可能なオープンソースプラットフォーム
OpenWebUI チャット/エージェント UI 自前ホストおよびローカルモデルに対応するLLMチャットWeb UI
Promptfoo ツール オープンソースのLLMテストプラットフォーム
LobeChat チャット/エージェント UI オープンソースのチャットボットプラットフォーム
Vapi プラットフォーム オープンソースの音声AIプラットフォーム
Inferable エージェント 分散型エージェント構築のためのオープンソースLLMプラットフォーム
Gradio チャット/エージェント UI チャットUIなどのWebインターフェース構築のためのオープンソースPythonライブラリ
Goose エージェント 分散型エージェント構築のためのオープンソースLLMプラットフォーム
smolagents エージェント オープンソースのAIエージェントフレームワーク
CrewAI エージェント エージェントの協調とツール利用を実現するマルチエージェントフレームワーク

🚀 クイックスタート

アプリケーションにインストゥルメンテーションを導入し、LLM呼び出しやリトリーバル、埋め込み、エージェントアクションなどの動作をLangfuseに記録しましょう。
複雑なログやユーザーセッションの解析・デバッグが可能になります。

1️⃣ 新規プロジェクトの作成

  1. Langfuseアカウント作成 または セルフホスト
  2. 新規プロジェクトを作成
  3. プロジェクト設定で新しいAPIクレデンシャルを作成

2️⃣ 初めてのLLM呼び出しのログ記録

@observe() デコレーターを利用することで、任意のPython製LLMアプリケーションのトレースが簡単に行えます。
このクイックスタートでは、LangfuseのOpenAI統合を使用して、全てのモデルパラメータを自動で取得します。

[!TIP] OpenAIを利用していない場合は、こちらのドキュメントで、他のモデルやフレームワークのログ記録方法をご確認ください。

pip install langfuse openai

```bash filename=".env" LANGFUSE_SECRET_KEY="sk-lf-..." LAN

Extension points exported contracts — how you extend this code

Filter (Interface)
(no doc) [21 implementers]
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts
IBackgroundMigration (Interface)
(no doc) [14 implementers]
worker/src/backgroundMigrations/IBackgroundMigration.ts
TimeseriesDataTransformer (Interface)
(no doc) [4 implementers]
web/src/features/scores/types.ts
IntrinsicElements (Interface)
(no doc)
web/types/global.d.ts
StorageService (Interface)
(no doc) [8 implementers]
packages/shared/src/server/services/StorageService.ts
RetryConfig (Interface)
* Configuration for retry handling with rate limiting and age checks
worker/src/features/utils/retry-handler.ts
BaseActionHandler (Interface)
(no doc) [3 implementers]
web/src/features/automations/components/actions/BaseActionHandler.ts
Session (Interface)
(no doc)
web/types/next-auth.d.ts

Core symbols most depended-on inside this repo

map
called by 2722
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts
push
called by 1520
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts
create
called by 1225
packages/shared/src/features/monitors/service/service.ts
stringify
called by 1146
worker/src/services/IngestionService/index.ts
filter
called by 1001
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts
error
called by 856
packages/shared/src/server/clickhouse/clickhouse-logger.ts
find
called by 840
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts
get
called by 709
packages/shared/src/server/cache/localCache.ts

Shape

Function 6,790
Method 1,009
Interface 578
Class 443
Enum 32

Languages

TypeScript100%
Python1%

Modules by API surface

packages/shared/src/server/queries/clickhouse-sql/event-query-builder.ts95 symbols
packages/shared/src/server/services/StorageService.ts84 symbols
packages/shared/src/server/repositories/events.ts72 symbols
packages/shared/src/server/otel/OtelIngestionProcessor.ts61 symbols
packages/shared/src/server/queries/clickhouse-sql/clickhouse-filter.ts53 symbols
packages/shared/src/server/repositories/scores.ts51 symbols
packages/shared/src/features/query/server/queryBuilder.ts47 symbols
web/src/pages/api/public/otel/otlp-proto/generated/root.ts46 symbols
web/src/ee/features/in-app-agent/server/instrumentation.ts39 symbols
web/src/components/ChatMessages/messageSearch/controller.ts39 symbols
packages/shared/src/server/repositories/observations.ts38 symbols
web/src/utils/product-url.ts37 symbols

Dependencies from manifests, versioned

@ag-ui/client0.0.52 · 1×
@ag-ui/core0.0.52 · 1×
@ag-ui/mastra1.0.3 · 1×
@ai-sdk/amazon-bedrock4.0.81 · 1×
@anthropic-ai/tokenizer0.0.4 · 1×
@anthropic-ai/vertex-sdk0.17.1 · 1×
@appsignal/opentelemetry-instrumentation-bullmq0.8.0 · 1×
@astral-sh/ruff-wasm-web0.15.13 · 1×
@aws-crypto/sha256-browser5.2.0 · 1×
@aws-sdk/client-cloudwatch3.1013.0 · 1×
@aws-sdk/client-lambda3.1046.0 · 1×
@aws-sdk/client-s33.1013.0 · 1×

Datastores touched

langfuse_testDatabase · 1 repos
postgresDatabase · 1 repos

For agents

$ claude mcp add langfuse \
  -- python -m otcore.mcp_server <graph>

⬇ download graph artifact