视频网站开发者工具个人网站备案幕布
2026/3/26 13:59:36 网站建设 项目流程
视频网站开发者工具,个人网站备案幕布,动漫主题WordPress,wordpress和iss不是写一个 Prompt#xff0c;调用 Api#xff0c;加上几个函数处理#xff0c;就叫“Agent 应用” Agent is all you need我想抛出一个“暴论”#xff1a;沉淀足够深的“领域专家”#xff0c;配合“Ai应用工程师”#xff0c;进行Agent开发#xff0c;能够自动化一切…不是写一个 Prompt调用 Api加上几个函数处理就叫“Agent 应用”Agent is all you need我想抛出一个“暴论”沉淀足够深的“领域专家”配合“Ai应用工程师”进行Agent开发能够自动化一切该领域人能完成的开发工作一、什么是Agent狭义上的Agent完全无人监督、自主拆解目标、寻找资源、使用工具完成全部工作的系统广义上的Agent指以 LLM大语言模型为核心驱动具备基础任务响应与外部交互能力的系统市面上百分之99的Agent应用其实只属于广义-简单Agent的范畴一个真正完整且智能的智能Agent系统以下五个能力缺一不可Planning自行对任务进行详细拆解完成执行方案规划Action根据方案按流程一步步执行Observation在Action过程中应当能动态感知环境反应动态调整规划Tool_call具备精准调用外部工具来解决任务的能力Learning能自主学习好坏case、外部新知识、新工具不断进化在目前的Ai Coding领域目前图形化的cursor和命令行claude-code在前4个能力上已做的相当完备但是最后一个——Agent的自主学习能力尚任重道远它要求Agent能自动学习新知识、调用新工具、学习交互的good case、bad case转化为经验二、怎么做出一个Agent广义上的功能性Agent开发流程大体上可以分为三个阶段****架构选择、功能实现、工程优化架构选择阶段根据业务特点、QPS、准确率、稳定性等需求选择合适的编程语言/工作流平台、后端服务架构功能实现阶段实现业务的Agent解决方案工程优化阶段准确率优化效率优化成本问题这里我想重点讨论功能实现和工程优化怎么才能做好这两个阶段呢2.1功能实现阶段2.1.1How?Why?如何让Agent能够完美地完成任务多项研究表明——因为Transformer架构固有局限随上下文逐步增长LLM注意力逐渐分散回归能力逐渐下降大模型的生成过程本质是预测会根据用户给出的信息逐渐去“预测”最优质的回答大模型接收到的上下文本质上就是一种信息用于消除预测过程中的不确定性降低其信息熵我认为在Agent开发过程中**完美遵守下面两个原则就可以——开发出一个可用、高效的Agent**最小上下文原则每次交互中给大模型的上下文尽可能小最低信息熵原则需要清晰、精确、完整地表述需要大模型完成的任务因此和大模型交互其实就是一种语言的艺术——最少的词语完成最完整意图的表述2.1.2How to do?应该怎么做才能完美遵守上面的原则呢工具调用正确指导LLM在合适的时候用对应的工具而不是给多个工具让它选择上下文管理只给主agent最重要的关键信息sub agent去filter其他信息不重要的信息/当下用不到的历史信息不代入上下文使用外部存储技术存储在文件/数据库/临时变量中在需要时再做回归非必要不Ai固定的流程使用固定函数完成不要为了用Agent而用在需要LLM动态执行的模块一定要给出最精致的prompt——最准确的上下文信息2.2工程优化阶段功能完整后如何让Agent在线上环境稳定、高效、低成本地运行准确率/稳定性优化整个工作流必须以高准确率完成用户的需求效率优化步骤合并、任务并行成本问题更小的模型、更小的上下文窗口、蒸馏后的模型2.2.1准确率/稳定性优化大模型每次输出都不稳定Agent的多次调用会导致结果更加不稳定可以用一个不太严谨的计算方式来理解假设单轮回答符合对的期望是0.8那经过10次迭代0.8^10正确回答的期望就是0.1074实用技巧——完成Agent输出的超高准确率任务拆解将复杂任务拆分别更细粒度子步骤减少单步误差累计多轮校验机制关键的中间结果增加校验无效则重新规划生成异常兜底策略预设每一个节点的故障处理方案工具超时、接口报错、多轮准确率不达标等问题都要建立流程上的兜底或信息上的兜底定制化微调总结Agent历史调用链中的good case合并为数据集进行微调2.2.2效率优化步骤合并与剪枝剔除冗余步骤简化非必要流程固定步骤函数化任务并行处理支持多工具/子任务同时执行预处理缓存缓存高频复用数据避免重复请求、计算模型优化使用更小参数的模型响应优先级调度高实时性任务实时调用近线任务采用离线推理2.2.3成本优化模型优化轻量化在能完成任务的前提下尽量选小参数模型我实践中小参模型迭代多次效果一般好过大参模型一次生成模型蒸馏对模型微调后再蒸馏上下文窗口压缩通过摘要、关键词提取、文本精简、无关信息filter等资源动态调度非高峰时段减少算力节点高峰时段动态扩容2.3如何让agent乖乖听话一个Agent其实是由多个小模块组成的其实Agent的开发过程和“搭积木”很像在搭积木过程中需要不断地回过头去检查当下的结果——是否多用了零件、桌子有没有少一个腿、房间会不会太小了那么想用积木搭好一个城堡我们应该怎么做呢建筑图纸整个城堡应该有多少层、多少个房间、最终是什么样子、什么设计风格完成小模块先拼接好书桌、床、电视机等一个又一个小模块模块协同将一个又一个小模块“协同”起来成为一个大城堡完成整个城堡的过程其实和Agent常用也是最有效的工作模式ReAct几乎一摸一样Reasoning、Action、ObservationReAct 模式的核心是通过 “推理 - 行动 - 感知” 的闭环循环让 Agent 具备处理复杂任务的能力其设计逻辑可拆解为三个核心环节及闭环机制Reasoning推理Agent 会先解析用户需求拆解目标为可执行的步骤并判断当前是否需要调用工具。Action行动按推理阶段的规划执行具体操作包括直接生成内容或调用外部工具Observation观察接收并解析行动阶段的输出如工具返回结果、错误信息判断是否符合预期若数据完整则将结果反馈给推理环节进入下一轮规划若出现异常则触发推理环节重新决策还有其他很多设计模式但是其实核心思想都类似这里不再展开Cot、AutoGPT…三、最近很火的上下文工程是啥上下文工程来源对经典的文本这单一模态而言使用llm的唯一方式是一次性的一问一答为了提出更好的问题引导更好的回答发展出了提示词工程为了多轮对话、多模态支持、信息更全面、与环境交互在提示词工程上发展出来上下文工程研究表明当关键信息位于文本中段时召回率下降40%以上LLM 的本质是概率预测模型若输入的冗余信息过多必然会干扰其对核心逻辑的判断导致精准度与召回率下降。我在 Agent 应用开发实践中对此深有体会每次与 LLM 交互时传递的信息必须经过筛选只保留 “足够必要” 的内容因此Agent 开发其实就是在进行上下文工程 —— 在 LLM 需要输出的每个阶段精准供给它完成任务所需的关键信息无论是 tool_call 的返回结果、用户的原始输入还是环境变量本质上都是需纳入考量的上下文并无主次之分唯有全面且精简地整合才能让 LLM 高效输出上下文工程的本质就是模型输入整理无论是user_prompt、system_prompt、tool_call_para、tool_call_result、env_state都是chat_history在每个需要交互的节点应当从chat_history中拿出哪些内容经过拼接、优化、整理后给到模型就是上下文工程要做的工作四、如何用好提示词OpenAI 提到 6 条大的原则1.Write clear instructions(写出清晰的指令)2.Provide reference text提供参考文本3.Split complex tasks into simpler subtasks将复杂的任务拆分为更简单的子任务4.Give the model time to “think”给模型时间「思考」5.Use external tools使用外部工具6.Test changes systematically系统地测试变更4.1先激活再思考先通过精准提问让对应领域上下文信息加入LLM的chat_history再提出问题样例1q请你告诉我什么是shiro550漏洞一般攻击者怎么利用它a这漏洞是因为低版本shiro框架中..q我测试一个靶机存在shiro550漏洞你帮我看看我这个请求包为什么没有work请求包如下:..样例2q请你帮我总结/my_path/to_test_file/test.py文件中的代码逻辑a这是一个爬虫的工具类它通过..q请你帮我修改代码增强他的反爬绕过能力4.2结构化提示词类似XML格式instruction你希望 Claude 执行的主要任务或目标/instructioncontext任务的背景信息比如涉及的框架、业务逻辑、团队规范等/contextcode_example可以参考的代码片段、接口规范或已有实现/code_exampleJSON格式提示词样例{ task: generate_product_review,parameters: { product_type: 智能手机, product_name: XPhone Pro, key_features: [6.7英寸OLED屏幕, 5000mAh电池, 1亿像素摄像头, 骁龙8 Gen3处理器], review_perspective: [性能体验, 续航能力, 拍照效果, 性价比], tone: 客观中立略带专业分析, word_count: 500-800, structure: { include_introduction: true, include_feature_analysis: true, include_pros_cons: true, include_conclusion: true }, requirements: [ 避免使用夸张修辞, 针对每个核心功能给出具体评价, 对比同价位机型的优势与不足, 数据支撑评价如续航具体时长、跑分数据等, 提及目标用户群体适配性, 分析系统优化对硬件性能的影响 ] }}4.3提示词工程few shot (少样本学习)人工给出几个示例激活模型在特定任务的思考模式Chain of thought思维链COT概念通过中间推理步骤——实现复杂推理能力因为大模型本质是预测下一个词出现的概率通过中间步骤引导增加向正确方向预测的概率Few-Shot Cot少样本学习配合思维链Zero-Shot-Cot在样本结尾加入引导逐步思考的Prompteg买了10个苹果给了邻居2个苹果和修理工2个苹果又买了5个苹果吃了1个还剩下多少苹果让我们逐步思考Auto-Cot对用户问题聚类后抽样出每类中心问题使用简单启发式Zero-Shot-Cot生成推理链准备步骤问题聚类、抽样、用简单启发式Zero-Shot-Cot生成推理链回答步骤问题分类、回归该类问题的cot_prompt、合并user_prompt和cot_prompt、llm.invoke(merge_prompt)自我一致性概念通过少样本思维链采样多个不同推理路径、用多个推理结果进行多轮投票角色扮演ReACT…五、Api调用Tips通过动态步长温度、随机数种子增加多轮投票中的随机性强制不使用缓存模型回复被截断并不是上下文不够很多模型有默认输出 token限制需要设置 maxtokens参数在逻辑性强的任务里用 json 格式的提示词效果很好few-shot 在标准化输出任务中表现很好根据不同任务特性调节温度有时模型怎么都不能满足好一个需求可能是这个模型能力不够 or 模型不适合这个任务动态化提示词.format/.replace做提示词版本管理很重要六、最后聊两句最后我想抛出一个观点在当下LLM既没有想象中那么强归根结底他只是一个工具使用者水平决定了他的能力边际LLM更没有我们想的那么菜我们可以完全相信算法工程师迭代基座模型的速度和大模型应用工程师的工程能力但是我对ai的发展十分有信心在可预见的将来他能够替代掉绝大部分的编码工作Agent is all you need到时候作为工程师的技术护城河我想除了足够深刻的垂类领域知识就是超越常人的LLM工具驾驭能力普通人如何抓住AI大模型的风口领取方式在文末为什么要学习大模型目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 大模型作为其中的重要组成部分 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 为各行各业带来了革命性的改变和机遇 。目前开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景其中应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过30%。随着AI大模型技术的迅速发展相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业人工智能大潮已来不加入就可能被淘汰。如果你是技术人尤其是互联网从业者现在就开始学习AI大模型技术真的是给你的人生一个重要建议最后只要你真心想学习AI大模型技术这份精心整理的学习资料我愿意无偿分享给你但是想学技术去乱搞的人别来找我在当前这个人工智能高速发展的时代AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】大模型全套学习资料展示自我们与MoPaaS魔泊云合作以来我们不断打磨课程体系与技术内容在细节上精益求精同时在技术层面也新增了许多前沿且实用的内容力求为大家带来更系统、更实战、更落地的大模型学习体验。希望这份系统、实用的大模型学习路径能够帮助你从零入门进阶到实战真正掌握AI时代的核心技能01教学内容从零到精通完整闭环【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块内容比传统教材更贴近企业实战大量真实项目案例带你亲自上手搞数据清洗、模型调优这些硬核操作把课本知识变成真本事‌02适学人群应届毕业生‌无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型‌非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界‌。业务赋能突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型‌。vx扫描下方二维码即可【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】本教程比较珍贵仅限大家自行学习不要传播更严禁商用03入门到进阶学习路线图大模型学习路线图整体分为5个大的阶段04视频和书籍PDF合集从0到掌握主流大模型技术视频教程涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向新手必备的大模型学习PDF书单来了全是硬核知识帮你少走弯路不吹牛真有用05行业报告白皮书合集收集70报告与白皮书了解行业最新动态0690份面试题/经验AI大模型岗位面试经验总结谁学技术不是为了赚$呢找个好的岗位很重要07 deepseek部署包技巧大全由于篇幅有限只展示部分资料并且还在持续更新中…真诚无偿分享vx扫描下方二维码即可加上后会一个个给大家发【附赠一节免费的直播讲座技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等欢迎大家~】

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询