企业官网建设流程全解析

备案网站ip地址,哪个搜索引擎最好用,鞋子 东莞网站建设,免费拥有自己的网站这篇文章介绍了一个基于上下文工程的Agent后端架构设计方案#xff0c;将Agent核心模块分为四类#xff1a;工具模块和管理、上下文管理、LLM模块和Agent形态。文章详细阐述了各模块的设计与实现#xff0c;包括LLM服务类、工具定义与管理、统一上下文处理以及执行器形态。作…这篇文章介绍了一个基于上下文工程的Agent后端架构设计方案将Agent核心模块分为四类工具模块和管理、上下文管理、LLM模块和Agent形态。文章详细阐述了各模块的设计与实现包括LLM服务类、工具定义与管理、统一上下文处理以及执行器形态。作者提供了相关代码仓库和CLI脚手架工具帮助开发者理解如何借助上下文工程思路开发Agent。从零到一基于上下文工程的 Agent 后端设计前言从之前我整理的上下文工程实践指南出发我大概梳理出来在一个 Agent 中最核心的模块我分为四类工具模块和管理定义一些 Agent 的工具可以是 MCP也可以是 Skill除了定义之后我们还需要管理工具的输出裁剪工具的执行审核流程等上下文管理这个是启动 Agent 的关键整理好注入给 LLM 的上下文是完成任务的关键其中重要的是上下文的压缩、上下文的裁剪等同时 Agent 上下文会遇到上下文污染、上下文干扰、上下文冲突、上下文混淆的问题这些问题需要开发者结合系统工程的方式来解决LLM 模块这个是 Agent 真正的核心就像钢铁侠的“方舟反应堆”一样Agent 形态执行器这个是 Agent 的执行形态目前可以是工作流、可以是单智能体、可以是多智能体等各种形态上下文工程实践指南仓库名字Practical-Guide-to-Context-Engineering仓库链接https://github.com/WakeUp-Jin/Practical-Guide-to-Context-Engineering上下文工程核心架构上下文组成 借助这四点核心的思路我构建了一套 Agent 后端架构方案为了方便大家理解我还开发了一个 CLI 脚手架工具比较简单可以一键安装模板项目进行预览查看。主要是让大家查看代码文件和文件之间的结构以此对借助上下文工程的思路开发一个 Agent 有更清晰的感觉cli 项目链接https://github.com/WakeUp-Jin/context-cli-template启动命令npm create context-templatecli-process一、总设计总设计整个后端架构设计中是按照上下文工程来做的设计上下文管理是核心它就是一个完整的大输入以此输入作为前提来解决用户的问题LLM 模块是使用openaiSDK来实现的多种型号模型的使用这里是提供模型的工具模块和管理工具是 LLM 关键的外部能力是结合到上下文来让 LLM 使用的上下文管理这个是统一的上下文其负责编排好上下文在 执行器中将上下文输入给 LLM以 LLM 的输出来解决问题二、LLM模块llm-module关于 LLM 模块整个模块的分为LLM 创建工厂函数根据传入的参数来判断实例化哪一个 LLM 服务类LLM 服务类要编写一个相应的 LLM 服务类里面有三种方法complete 方法、simpleChat 方法、generate 方法其中最重要的是 complete 方法这个会作为上下文输入的核心方法目录情况结构- llm - services - DeepSeekService.ts // 这个就是具体的LLM服务类 - DoubaoService.ts - utils - types - index.ts //这个是整个llm模块的类型约束 - factory.ts //LLM工厂函数 - index.ts举一个例子//具体使用//1、使用工厂函数实例化相应的LLM类const service await createLLMService({ provider: deepseek, model: deepseek-chat, apiKey: process.env.DEEPSEEK_API_KEY || your-api-key-here, maxIterations: 5,});//2、调用simpleChat方法const answer await service.simpleChat( 用一句话解释什么是大语言模型, 你是一个有帮助的 AI 助手);//3、调用complete方法let message[//...]let tools[//...]const responseawait service.complete(message,tools)参考文档在上下文工作实践指南中• LLM模块-服务层的设计文档三、工具模块和管理tool-module工具模块主要的三个点就是工具的定义定义一个工具对象需要哪些属性提供给 LLM 工具参数可以是 tools 参数也可以是提示词文本工具的执行函数工具的执行函数目录结构- tool - FileReadTool - FileReadTool.ts //工具定义 - prompt.ts //工具描述 - GrepTool - GrepTool.ts - prompt.ts - index.ts - ToolManager.ts //工具管理函数 - types.ts //工具模块的类型1、 工具定义/** * 工具定义基础接口 */export interface InternalToolTArgs any, TResult any { /** 工具名称(唯一标识) */ name: string; /** 工具分类(如 filesystem、search、network) */ category: string; /** 是否为内部工具 */ internal: boolean; /** 工具描述(简短,详细描述在 prompt 中) */ description: string; /** 版本号 */ version: string; /** 参数定义(JSON Schema 格式) */ parameters: ToolParameterSchema; /** 工具处理函数 */ handler: (args: TArgs, context?: InternalToolContext) PromiseTResult; /** 可选:格式化结果给 AI */ renderResultForAssistant?: (result: TResult) string; /** 可选:权限控制 */ needsPermissions?: (input?: TArgs) boolean; // 是否需要权限 isEnabled?: () Promiseboolean; // 是否启用 isReadOnly?: () boolean; // 是否只读 isConcurrencySafe?: () boolean; // 是否并发安全}例如//1、创建工具管理器const toolManager new ToolManager();//2、获取工具定义const tools toolManager.getTools();//3、创建LLM服务const llm await createLLMService( { provider: deepseek, model: deepseek-chat, apiKey: config.apiKey || , maxIterations: 5, }, tools);//4、调用工具执行函数const answer await llm.generate( 请帮我读取 package.json 文件并告诉我项目名称是什么);参考文档在上下文工作实践指南中• 工具模块-工具管理下篇https://mp.weixin.qq.com/s/1iv_4Jyp3G7i2sUZx_31ww• 工具模块-工具管理上篇https://mp.weixin.qq.com/s/sIrbB4WXMbauY4GPDmk3PQ四、上下文管理context-module在这种上下文管理设计中将该 Agent 中所有种类的上下文管理统一起来让 LLM 只需要直接和上下文输入联系 在这种开发模式下开发的重心在上下文的获取和整理但是应用的关键核心是 LLM。保证核心是 LLM后续就可以根据模型能力的提升Agent 的效果也变得越来越好。开发重心是上下文可以极大的发挥应用开发者的能力和创造力目录结构- context - base - BaseContext.ts //基础上下文类 - modules - ConversationContext.ts //上下文 - 会话历史记录类 - MemoryContext.ts //上下文 - 用户记忆类 - StructuredOutputContext.ts //上下文 - 结构化输出类 - SystemPromptContext.ts //上下文 - 系统提示词类 - ToolContext.ts //上下文 - 工具管理类 - ContextManager.ts //上下文管理器 - index.ts - types.ts // 上下文管理模块的类型约束参考文档在上下文工作实践指南中• 上下文管理模块https://mp.weixin.qq.com/s/Lym4JsCFM1cBX5IcSqcx-A• 上下文管理模块-上下文压缩ClaudeCode、Gemini与工具消息裁剪https://mp.weixin.qq.com/s/waJdBPTk6736kEkEBC8Zrw五、执行器关于执行器的详细文档在上下文工程实践指南中• Agent形态-智能体系统构建策略-单智能体和多智能体https://mp.weixin.qq.com/s/CkqpUBczmLNhVnUkBIDK6A• Agent形态-两种世界的交互形态协同Agent与自主Agent https://mp.weixin.qq.com/s/TcO7DLLq8p6O7xnz-73MBg如何学习AI大模型如果你对AI大模型入门感兴趣那么你需要的话可以点击这里大模型重磅福利入门进阶全套104G学习资源包免费分享这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】这是一份大模型从零基础到进阶的学习路线大纲全览小伙伴们记得点个收藏第一阶段从大模型系统设计入手讲解大模型的主要方法第二阶段在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用第三阶段大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统第四阶段大模型知识库应用开发以LangChain框架为例构建物流行业咨询智能问答系统第五阶段大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型第六阶段以SD多模态大模型为主搭建了文生图小程序案例第七阶段以大模型平台应用与开发为主通过星火大模型文心大模型等成熟大模型构建大模型行业应用。100套AI大模型商业化落地方案大模型全套视频教程200本大模型PDF书籍学会后的收获• 基于大模型全栈工程实现前端、后端、产品经理、设计、数据分析等通过这门课可获得不同能力• 能够利用大模型解决相关实际项目需求 大数据时代越来越多的企业和机构需要处理海量数据利用大模型技术可以更好地处理这些数据提高数据分析和决策的准确性。因此掌握大模型应用开发技能可以让程序员更好地应对实际项目需求• 基于大模型和企业数据AI应用开发实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能 学会Fine-tuning垂直训练大模型数据准备、数据蒸馏、大模型部署一站式掌握• 能够完成时下热门大模型垂直领域模型训练能力提高程序员的编码能力 大模型应用开发需要掌握机器学习算法、深度学习框架等技术这些技术的掌握可以提高程序员的编码能力和分析能力让程序员更加熟练地编写高质量的代码。LLM面试题合集大模型产品经理资源合集大模型项目实战合集获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】