Files

210 lines
7.6 KiB
Markdown
Raw Permalink Normal View History

2026-06-09 23:15:17 +08:00
---
tags: [Langfuse, 监控, OTel, 追踪, 可观测性]
create time: 2026-06-09 22:30
---
2026-06-08 23:08:57 +08:00
# Langfuse 监控集成
2026-06-09 23:15:17 +08:00
## 概述
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
Langfuse 是一个开源的 LLM 可观测性平台,用于追踪、监控和调试 AI 应用的请求链路。CCB 通过 OpenTelemetry (OTel) 桥接层将 Langfuse 集成到查询流程中,实现 LLM 调用追踪、工具执行追踪、多 Agent 追踪和数据脱敏。
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
> [!info]
> 实现状态:已完成,通过环境变量启用
> 依赖:`@langfuse/otel`、`@langfuse/tracing`、`@opentelemetry/sdk-trace-base`
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
## 正文
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
### 启用方式
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
Langfuse 是开源项目,你可以 **自部署**(Docker / Kubernetes),也可以使用官方提供的 **Langfuse Cloud** 免费测试。注册后在 Project Settings -> API Keys 页面获取密钥。
2026-06-08 23:08:57 +08:00
核心只需要三个环境变量:
| 环境变量 | 说明 |
|---------|------|
| `LANGFUSE_PUBLIC_KEY` | Langfuse 公钥(必填) |
| `LANGFUSE_SECRET_KEY` | Langfuse 密钥(必填) |
| `LANGFUSE_BASE_URL` | 服务地址,默认 `https://cloud.langfuse.com`;自部署时改为你的地址(必填) |
未配置时所有追踪函数为 no-op,零开销。
2026-06-09 23:15:17 +08:00
#### 通过 settings.json 配置(推荐)
2026-06-08 23:08:57 +08:00
在 `.claude/settings.json` 的 `env` 字段中添加,这样每次启动自动生效:
```json
{
"env": {
"LANGFUSE_PUBLIC_KEY": "pk-xxx",
"LANGFUSE_SECRET_KEY": "sk-xxx",
"LANGFUSE_BASE_URL": "https://cloud.langfuse.com"
}
}
```
2026-06-09 23:15:17 +08:00
#### 其他可选参数
2026-06-08 23:08:57 +08:00
| 环境变量 | 默认值 | 说明 |
|---------|--------|------|
| `LANGFUSE_TRACING_ENVIRONMENT` | `development` | 环境标签,用于 Langfuse 面板筛选 |
| `LANGFUSE_FLUSH_AT` | `20` | 批量发送的 span 数量阈值 |
| `LANGFUSE_FLUSH_INTERVAL` | `10` | 定时刷新间隔(秒) |
| `LANGFUSE_EXPORT_MODE` | `batched` | 导出模式:`batched`(批量)或 `immediate`(即时) |
| `LANGFUSE_TIMEOUT` | `5` | 请求超时(秒) |
2026-06-09 23:15:17 +08:00
### 架构
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
#### 模块结构
2026-06-08 23:08:57 +08:00
```
src/services/langfuse/
├── index.ts # 统一导出
├── client.ts # OTel Provider + LangfuseSpanProcessor 初始化
├── tracing.ts # Trace/Span 创建、LLM 和工具观察记录
2026-06-09 23:15:17 +08:00
├── convert.ts # 内部 Message 类型 -> Langfuse OpenAI 兼容格式转换
2026-06-08 23:08:57 +08:00
└── sanitize.ts # 数据脱敏(敏感字段、文件路径、工具输出)
```
2026-06-09 23:15:17 +08:00
#### 追踪层级
2026-06-08 23:08:57 +08:00
```
2026-06-09 23:15:17 +08:00
Trace (Agent Span) <- createTrace() / createSubagentTrace()
├── Generation (LLM 调用) <- recordLLMObservation()
├── Tool Observation (工具调用) <- recordToolObservation()
├── Tool Observation (工具调用) <- recordToolObservation()
2026-06-08 23:08:57 +08:00
└── ...
```
2026-06-09 23:15:17 +08:00
#### 数据流
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
```mermaid
flowchart TD
A["query.ts"] --> B["createTrace() 每个 query turn 创建根 trace"]
B --> C["claude.ts -> recordLLMObservation() API 调用完成后记录 LLM 观察"]
B --> D["toolExecution.ts -> recordToolObservation() 每个工具执行记录"]
B --> E["query.ts -> endTrace() turn 结束时关闭 trace"]
F["runAgent.ts"] --> G["createSubagentTrace() 子 Agent 有独立 trace"]
2026-06-08 23:08:57 +08:00
```
2026-06-09 23:15:17 +08:00
### 追踪详情
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
#### 主 Agent Trace
2026-06-08 23:08:57 +08:00
每次 `query()` 调用(即用户一次对话 turn)创建一个类型为 `agent` 的根 Span:
- **名称**: `agent-run` 或 `agent-run:<querySource>`
- **元数据**: `provider`、`model`、`agentType: "main"`
- **Session ID**: 关联到 Langfuse 的 Session 功能,支持按会话聚合
2026-06-09 23:15:17 +08:00
#### 子 Agent Trace
2026-06-08 23:08:57 +08:00
通过 `AgentTool` 启动的子 Agent 创建独立 Trace:
- **名称**: `agent:<agentType>`
- **元数据**: `provider`、`model`、`agentType`、`agentId`
- 独立于主 Trace,有自己的 Session 关联
2026-06-09 23:15:17 +08:00
#### LLM Generation
2026-06-08 23:08:57 +08:00
每次 API 调用记录为一个 `generation` 类型的 Span:
- **名称**: 按 Provider 映射(如 `ChatAnthropic`、`ChatOpenAI`、`ChatBedrockAnthropic` 等)
- **记录内容**: 输入消息、输出消息、Token 用量(input/output)
- **时间**: 精确记录 `startTime`、`endTime`、`completionStartTime`(TTFT 指标)
Provider 名称映射:
| Provider | Generation 名称 |
|----------|-----------------|
| `firstParty` | `ChatAnthropic` |
| `bedrock` | `ChatBedrockAnthropic` |
| `vertex` | `ChatVertexAnthropic` |
| `foundry` | `ChatFoundry` |
| `openai` | `ChatOpenAI` |
| `gemini` | `ChatGoogleGenerativeAI` |
| `grok` | `ChatXAI` |
2026-06-09 23:15:17 +08:00
#### 工具执行
2026-06-08 23:08:57 +08:00
每个工具调用记录为一个 `tool` 类型的 Span:
- **名称**: 工具名(如 `FileEditTool`、`BashTool`)
- **记录内容**: 输入(经脱敏)、输出(经脱敏)、`toolUseId`
- **错误标记**: `isError` 标志 + `level: ERROR`
2026-06-09 23:15:17 +08:00
### 数据脱敏
2026-06-08 23:08:57 +08:00
所有上传到 Langfuse 的数据都会经过脱敏处理(`sanitize.ts`),确保敏感信息不会泄露:
2026-06-09 23:15:17 +08:00
#### 全局脱敏(`sanitizeGlobal`)
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
- **Home 路径替换** — `/Users/xxx` -> `~`
2026-06-08 23:08:57 +08:00
- **敏感字段遮蔽** — 匹配 `api_key`、`token`、`secret`、`password`、`credential`、`auth_header` 等关键字的字段值替换为 `[REDACTED]`
2026-06-09 23:15:17 +08:00
#### 工具输入脱敏(`sanitizeToolInput`)
2026-06-08 23:08:57 +08:00
- 敏感字段遮蔽(同全局)
- `file_path`、`path`、`directory` 路径中的 Home 目录替换
2026-06-09 23:15:17 +08:00
#### 工具输出脱敏(`sanitizeToolOutput`)
2026-06-08 23:08:57 +08:00
| 工具 | 脱敏策略 |
|------|---------|
| `FileReadTool`、`FileWriteTool`、`FileEditTool` | 完全遮蔽,仅保留字符数:`[file content redacted, N chars]` |
| `BashTool`、`PowerShellTool` | 截断至 500 字符 |
| `ConfigTool`、`MCPTool` | 完全遮蔽 |
| 其他工具 | 原样保留 |
2026-06-09 23:15:17 +08:00
### 消息格式转换
2026-06-08 23:08:57 +08:00
`convert.ts` 将 CCB 内部的 Message 类型转换为 Langfuse 期望的 OpenAI 兼容格式:
2026-06-09 23:15:17 +08:00
- **输入**: `UserMessage | AssistantMessage[]` + 可选 system prompt -> `{ role, content }[]`
- **输出**: `AssistantMessage[]` -> `{ role: 'assistant', content }`
2026-06-08 23:08:57 +08:00
- **Content Block 映射**:
2026-06-09 23:15:17 +08:00
- `text` -> `{ type: 'text', text }`
- `thinking` / `redacted_thinking` -> `{ type: 'thinking', thinking }`
- `tool_use` -> `{ type: 'tool_use', id, name, input }`
- `tool_result` -> `{ type: 'tool_result', tool_use_id, content }`
- `image` / `document` -> 占位标记 `[image]` / `[document: name]`
2026-06-08 23:08:57 +08:00
2026-06-09 23:15:17 +08:00
### 生命周期
2026-06-08 23:08:57 +08:00
1. **初始化** — `initLangfuse()` 在 `src/entrypoints/init.ts` 启动时调用,创建 `LangfuseSpanProcessor` 和 `BasicTracerProvider`
2. **运行时** — 各追踪函数通过 `isLangfuseEnabled()` 检查,未配置时直接返回 `null`/跳过
3. **关闭** — `shutdownLangfuse()` 在进程退出时调用,强制 flush 并关闭 Processor
2026-06-09 23:15:17 +08:00
### 自部署 Langfuse
2026-06-08 23:08:57 +08:00
Langfuse 是开源项目,支持 Docker / Kubernetes 自部署:
```bash
docker run -d \
--name langfuse \
-p 3000:3000 \
-e DATABASE_URL=postgresql://... \
langfuse/langfuse:latest
```
自部署后,将 `LANGFUSE_BASE_URL` 指向你的实例地址即可。详见 [Langfuse 自部署文档](https://langfuse.com/docs/deployment/self-host)。
如果没有自部署需求,可以直接使用 [Langfuse Cloud](https://cloud.langfuse.com),提供免费额度可用于测试。
2026-06-09 23:15:17 +08:00
### 相关文件
2026-06-08 23:08:57 +08:00
| 文件 | 说明 |
|------|------|
| `src/services/langfuse/client.ts` | OTel Provider 初始化、生命周期管理 |
| `src/services/langfuse/tracing.ts` | Trace/Span 创建和观察记录 |
| `src/services/langfuse/convert.ts` | Message 格式转换 |
| `src/services/langfuse/sanitize.ts` | 数据脱敏 |
| `src/services/langfuse/__tests__/langfuse.test.ts` | 测试(568 行) |
| `src/query.ts` | 主查询流程中的 Trace 集成 |
| `src/services/tools/toolExecution.ts` | 工具执行中的观察记录 |
| `packages/builtin-tools/src/tools/AgentTool/runAgent.ts` | 子 Agent Trace 创建 |
2026-06-09 23:15:17 +08:00
## 关联笔记
- [[claude-code-best/docs/features/kairos]]