AI拉呱：洞察AI技术前沿
Agent 系统正成为自动化复杂任务的默认选项。作为数据科学家，你需要跟上节奏，学习这套新的自动化范式——自然语言成为计算的主要接口。一旦你接触过这套理念，你会意识到真正的挑战其实是工程问题：围绕概率性模型，构建可靠的、结构化的、可复现的系统。我们的目标是学会设计 Agent 系统，让它减少重复性认知负担，更高效、更一致地辅助人类工作。
整篇文章里，你会接触到一个正在崛起的概念——LLM 操作系统（LLMos）：语言模型作为中央推理引擎，编排工具、记忆、检索与多个专门 Agent。然后我们会深入真实可落地的设计，构建可信赖的 Agent 流水线。结尾你将用 Python 库 LLMlight 搭建出自己的轻量级、本地运行、保护隐私的多 Agent 系统，使用结构化提示、检索增强生成、嵌入搜索，以及协同解决复杂任务的专门 Agent。
如果你觉得这篇文章有帮助，欢迎关注 AI拉呱，我会写更多数据科学相关内容！强烈建议你跟着文中的动手示例练习，这能让你学得更快、理解更透、记得更牢。倒杯咖啡，开始玩吧！
我本想写一段简短的 Agent 系统介绍，但要解释的概念太多，于是变成了一段较长的介绍。强烈建议不要跳过这一节，因为这些新概念对于设计 Agent 系统而言是基础中的基础。
作为数据科学家，自己造系统而不只是消费系统，带来很大的乐趣。但我们也要警惕所谓的”非我所造综合征”（not invented here syndrome）：工程师有时仅仅是为了”全程理解一切”就重新造技术或软件。这有时确实是无谓的重复发明，但在学习新技术时——尤其是 AI Agent 这种新兴领域——亲手做一遍仍然是重要的一步。通过自己实验、搭建这些系统，你会对它们运行的基本机制理解得更深，更容易看清 Agent 工作流的优势与限制。
把搭 Agent 系统当作学习路径，亲手做出来，你会对它们的底层原理理解得更深，也更容易看清它们的能力与局限。
一旦你跨过 ChatGPT、Gemini、Grok 的聊天框，开始围绕这些语言模型构建系统，你会迅速意识到：真正的挑战不是生成文本。真正的挑战是设计能以结构化、可复现的方式可靠解决实际问题的工作流。 这给组织和研究者带来了巨大机会，例如总结文档、生成报告、抽取信息、分析文本、对大型数据集进行推理等任务。
曾经要靠精雕细琢的规则系统才能完成的任务，如今往往可以通过自然语言指令完成。但现实更复杂。核心挑战依旧相似：我们必须设计可靠、结构化、可复现的 Agent 工作流。
传统的确定性系统通常很稳定。一旦上线，行为就可预期，除非改了底层规则。语言模型不一样。它们的输出会随 prompt、模型版本、temperature 等参数、上下文窗口甚至轻微的措辞变化而不同。这种灵活性正是它的强大之处，也是让它在生产环境中难以控制的根源。
我们正进入一种新的计算范式：大型语言模型本身成为系统的计算核心。这与经典操作系统围绕硬件抽象有许多相似之处。现代 AI 系统可以描述为一个 LLM 操作系统（LLMos）：一种以语言模型作为中央推理引擎、编排多任务/多工具/多 Agent 的架构。LLMos 这个词由 Andrej Karpathy 提出，其架构示意如下：
LLM 操作系统（LLMos）
与传统计算的类比令人惊讶地直觉：