#AI #LLM
开源LLM工程平台
介绍
Langfuse 是一个开源的 LLM 工程平台,可帮助团队协作调试、分析和迭代其 LLM 应用程序。
官网:https://langfuse.com![1709893206894](https://jsd.onmicrosoft.cn/gh/rcy1314/tuchuang@main/uPic/1709893206894.png)
核心平台功能
发展
- **可观察性:**检测应用并开始将跟踪引入到 Langfuse(快速入门、跟踪
)
◦ 跟踪应用中的所有 LLM 调用和所有其他相关逻辑
◦ 适用于 Python 和 JS/TS 的异步 SDK,以及应用程序接口(在新选项卡中打开)
◦ OpenAI SDK、Langchain、LlamaIndex、LiteLLM、Flowise 和 Langflow 的集成
- **Langfuse 用户界面:**检查和调试复杂的日志和用户会话(演示、跟踪、会话))
- **提示:**在 Langfuse 中管理、版本控制和部署提示(提示管理)
-

监控

- **分析学:**跟踪指标(LLM 成本、延迟、质量)并从仪表板和数据导出(分析)中获得见解)
- **评估:**收集和计算你的LLM完成的分数(分数和评估
)
◦ 运行基于模型的评估
◦ 收集用户反馈
◦ 在 Langfuse 中手动对观测值进行评分
演示
📡发布:https://noisevip.cn/17787.html
📢关注频道:@quanshoulu
💬频道社群:https://www.noisework.cn/qun/
📬投稿bot:@noisewowbot
📇搜索bot:@Efficiencysearchbot
🎁访问主页: www.noisework.cn
 
 

ღゝ◡╹ノ♡ Noise