LLM Observability
AI 应用可观测性指对 LLM 应用运行状态进行追踪、监控与分析的技术体系:全链路追踪、成本监控与 Prompt 管理,帮助团队调试与优化 AI 应用,代表如 LangFuse 等。
LangChain
LangChain 是最流行的 LLM 应用开发框架:提供模型调用、Prompt 管理、RAG 组件与 Agent 编排的标准封装,降低 AI 应用开发门槛。
Low-Rank Adaptation
LoRA(低秩适配)是一种高效微调技术,通过冻结基础模型参数并注入可训练的低秩矩阵来适配新任务。相比全量微调,它大幅降低显存占用与算力成本,适用于风格迁移、领域知识注入等场景,但需注意数据质量对效果的决定性作用及潜在过拟合风险。
Low-Rank Adaptation (LoRA)
LoRA(低秩适配)是一种高效微调大模型的方法:冻结原模型、只训练少量低秩矩阵,用极低算力与显存让大模型适配新任务或新风格,是当前最主流的高效微调技术。