ghcr.io/lmnr-ai/app-server:v0.1.46

Laminar

Laminar 是一个专为 AI 智能体构建的开源可观测性平台。

• 追踪。文档
• 原生支持 OpenTelemetry 的强大追踪 SDK - 仅需 1 行代码即可自动追踪 Vercel AI SDK、Browser Use、Stagehand、LangChain、OpenAI、Anthropic、Gemini 等。
• 评估。文档
• 无预设 opinions、可扩展的 SDK 和 CLI，用于在本地或 CI/CD 管道中运行评估。
• 用于可视化评估结果和比较结果的 UI。
• AI 监控。文档
• 通过自然语言描述定义事件，以跟踪智能体的问题、逻辑错误和自定义行为。
• 所有数据的 SQL 访问。文档
• 使用内置 SQL 编辑器查询追踪数据、指标和事件。通过查询批量创建数据集。支持 API 访问。
• 仪表板。文档
• 强大的仪表板构建器，支持追踪数据、指标和事件，并支持自定义 SQL 查询。
• 数据标注与数据集。文档
• 自定义数据渲染 UI，用于快速数据标注和创建评估数据集。
• 极高性能。
• 使用 Rust 🦀 编写
• 自定义实时引擎，用于查看实时追踪数据。
• 超快速的 span 数据全文搜索。
• 用于追踪数据的 gRPC 导出器。

文档

完整文档请查看：laminar.sh/docs。

快速开始

最快速简便的开始方式是使用我们的托管平台 -> laminar.sh

使用 Docker Compose 自托管

Laminar 非常易于在本地自托管。如需快速启动，请克隆仓库并使用 docker compose 启动服务：

git clone https://github.com/lmnr-ai/lmnr
cd lmnr
docker compose up -d

这将启动一个轻量级但功能完整的栈版本。适用于快速入门或轻量级使用。您可以在浏览器中通过 http://localhost:5667 访问 UI。

您还需要正确配置 SDK，设置 baseUrl 和正确的端口。请参见自托管指南。

对于生产环境，我们建议使用我们的托管平台或 docker compose -f docker-compose-full.yml up -d。

配置 LLM 提供商（可选）

前端 AI 功能（trace 对话、AI 辅助 SQL）和服务器端 AI 工作器需要 LLM 提供商。请在仓库根目录的 .env 文件中配置一个。

选择以下任一提供商配置。LLM_MODEL_SMALL|MEDIUM|LARGE 为可选配置 — 未设置时使用各提供商的默认值。LLM_DEFAULT_HEADERS_JSON 为可选配置，适用于需要静态 headers 的任何提供商或网关。

# 可选，适用于需要静态 headers 的任何提供商/网关
# LLM_DEFAULT_HEADERS_JSON='{"X-Gateway-Tenant":"tenant"}'

# 选项 A: Gemini
LLM_PROVIDER=gemini
LLM_API_KEY=your_gemini_key

# 选项 B: OpenAI（或任何 OpenAI 兼容网关，如 LiteLLM、OpenRouter、vLLM）
LLM_PROVIDER=openai
# LLM_BASE_URL=http://localhost:4000 # 可选，用于 OpenAI 兼容网关
LLM_API_KEY=your_openai_key

# 选项 C: AWS Bedrock（Anthropic Claude）。使用 AWS 凭证而非 LLM_API_KEY。
LLM_PROVIDER=bedrock
AWS_ACCESS_KEY_ID=...
AWS_SECRET_ACCESS_KEY=...
AWS_REGION=us-east-1

贡献

如需在本地运行和构建 Laminar，或了解更多关于 docker compose 文件的信息，请遵循贡献指南。

TypeScript 快速入门

首先，创建项目并生成项目 API 密钥。然后：

npm add @lmnr-ai/lmnr

这将安装 Laminar TS SDK 及所有 instrumentation 包（OpenAI、Anthropic、LangChain 等）。

要开始追踪 LLM 调用，只需添加：

import { Laminar } from '@lmnr-ai/lmnr';
Laminar.initialize({ projectApiKey: process.env.LMNR_PROJECT_API_KEY });

要追踪函数的输入/输出，请使用 observe 包装器。

import { OpenAI } from 'openai';
import { observe } from '@lmnr-ai/lmnr';

const client = new OpenAI({ apiKey: process.env.OPENAI_API_KEY });

const poemWriter = observe({name: 'poemWriter'}, async (topic) => {
const response = await client.chat.completions.create({
model: "gpt-4o-mini",
messages: [{ role: "user", content: `write a poem about ${topic}` }],
});
return response.choices[0].message.content;
});

await poemWriter();

Python 快速入门

首先，创建项目并生成项目 API 密钥。然后：

pip install --upgrade 'lmnr[all]'

这将安装 Laminar Python SDK 及所有 instrumentation 包。所有工具列表请参见此处。

要开始追踪 LLM 调用，只需添加：

from lmnr import Laminar
Laminar.initialize(project_api_key=" ")

要追踪函数的输入/输出，请使用 @observe() 装饰器。

import os
from openai import OpenAI

from lmnr import observe, Laminar
Laminar.initialize(project_api_key=" ")

client = OpenAI(api_key=os.environ["OPENAI_API_KEY"])

@observe() # 为所有需要追踪的函数添加注解
def poem_writer(topic):
response = client.chat.completions.create(
model="gpt-4o",
messages=[
{"role": "user", "content": f"write a poem about {topic}"},
],
)
poem = response.choices[0].message.content
return poem

if __name__ == "__main__":
print(poem_writer(topic="laminar flow"))

客户端库

要了解更多关于代码 instrumentation 的信息，请查看我们的客户端库：