企业官网建设流程全解析

在线制作图片网站,2017优秀网站设计案例,学编程多久可以写游戏辅助,关于网站建设的入门书什么时候应该进行微调#xff0c;什么时候应该考虑其他技术#xff1f; 0 引言 在 LLM 出现之前#xff0c;微调通常用于小规模模型#xff08;100M – 300M 参数#xff09;。当时#xff0c;最先进的领域应用通过监督微调#xff08;SFT#xff09;构建#xff0c…什么时候应该进行微调什么时候应该考虑其他技术0 引言在 LLM 出现之前微调通常用于小规模模型100M – 300M 参数。当时最先进的领域应用通过监督微调SFT构建即使用标注数据对预训练模型进行进一步训练以适应自己的领域和下游任务。然而随着大型模型1B 参数的兴起微调的问题变得更加复杂。最重要的是大型模型的微调需要更大的资源和商业硬件。下表 1 列出了在三种情况下微调 Llama 2 7B 和 Llama 2 13B 模型的峰值 GPU 内存使用量。QLoRA 这样的算法使得使用有限资源对大模型进行微调变得更加可行。作为示例表 1 显示了 Llama 2 7B 的三种微调模式全微调、LoRA 和 QLoRA的峰值 GPU 内存。类似的内存减少也在使用 PEFT 或量化技术对 Llama 1 进行的微调中被报道。除了计算资源外参数全量微调的一个常见问题是灾难性遗忘。PEFT 技术旨在通过对少量参数进行训练来解决这些问题。表 1在 Llama 2 7B 上使用不同微调方法来源的内存消耗单位GB。QLoRA 使用了 4-bit NormalFloat 量化。1 适合微调的场景类型1.1 语气、风格和格式定制某些用例可能需要 LLM 反映特定的个性或为特定的受众服务。通过使用自定义数据集微调 LLM我们可以调整聊天机器人的响应使其更贴近特定用户的需求或预期体验。我们还可能希望以特定格式输出结果如 JSON、YAML 或 Markdown。1.2 提升准确性和处理边缘案例微调可以纠正通过提示词工程和上下文学习难以解决的幻觉或错误。它还可以增强模型执行新技能或任务的能力而这些技能或任务难以通过提示表达。这一过程有助于纠正模型在执行复杂提示时的失误并提高其生成预期输出的可靠性。我们提供两个示例Phi-2 在金融数据情感分析中的准确性从 34% 提升至 85%。ChatGPT 在 Reddit 评论情感分析中的准确性使用 100 个示例后提升了 25 个百分点从 48% 到 73%。通常对于初始准确率较低的情况 50%微调使用几百个示例就能带来显著提升。1.3 处理代表性不足的领域尽管 LLM 经过大量通用数据训练但它们并不总是能够掌握每个小众领域的细微差别、术语或特定性。在法律、医疗或金融等领域微调已被证明可以提高下游任务的准确性。我们提供两个示例如文章中所述患者的病历包含高度敏感的数据通常不在公共领域中出现。因此基于 LLM 的病历总结系统需要进行微调。对于像印度语言这样的代表性不足的语言使用 PEFT 技术的微调在所有任务中都有所帮助。1.4 成本节约微调可以将 Llama 2 70B/GPT-4 等大模型的技能提炼到较小的模型中如 Llama 2 7B从而在不影响质量的情况下降低成本和延迟。此外微调减少了对冗长或特定提示词提示词工程中使用的需求从而节省 Token 并进一步降低成本。例如这篇文章展示了如何通过微调 GPT-3.5 评审模型将其从更昂贵的 GPT-4 模型中提炼出来最终节省了成本。1.5 新任务/能力通过微调往往可以实现新的能力。我们提供三个示例微调 LLM 以更好地使用或忽略来自检索器的上下文微调 LLM 评审模型来评估其他 LLM 的指标如扎根性、合规性或有用性微调 LLM 来增加上下文窗口2 微调与其他领域适应技术的比较2.1 微调 vs. 上下文学习少样本学习上下文学习ICL是一种强大的提升 LLM 系统性能的方式。由于其简便性ICL 应在进行任何微调活动之前尝试。此外ICL 实验有助于评估微调是否能提升下游任务的性能。使用 ICL 时的一些常见考虑因素包括随着需要展示的示例数量增加推理成本和延迟也随之增加。示例越多LLM 忽略部分示例的情况也越常见。这意味着你可能需要一个基于 RAG 的系统根据输入找到最相关的示例。LLM 可能会直接输出作为示例提供给它的知识。这种担忧在微调时也存在。2.2 微调 V.S RAG共识是当 LLM 的基础性能不令人满意时你可以“从 RAG 开始评估其性能如果不够理想再转向微调”或者“RAG 可能比微调更有优势” (来源)。然而我们认为这种范式过于简化因为在多个场景下RAG 不仅不是微调的替代方案反而更多的是微调的补充方法。根据问题的特性可能需要尝试一种或两种方法。采用这篇文章的框架以下是一些问题帮助你确定微调或 RAG或两者是否适合你的问题你的应用程序是否需要外部知识微调通常不适合用于注入新知识。你的应用程序是否需要自定义语调/行为/词汇或风格对于这些类型的需求微调通常是正确的方法。你的应用程序对幻觉有多宽容在压制虚假信息和想象性编造至关重要的应用中RAG 系统提供了内置的机制来最小化幻觉。有多少标注的训练数据可用数据的静态性/动态性如何如果问题需要访问动态的数据语料库微调可能不是正确的方法因为 LLM 的知识可能很快变得过时。LLM 应用程序需要多大的透明性/可解释性RAG 天生可以提供参考文献这对于解释 LLM 输出非常有用。成本和复杂性团队是否具备构建搜索系统的专业知识或以前的微调经验应用程序中的任务多样性如何在大多数情况下微调和 RAG 的混合解决方案将带来最佳效果——问题随之变成了做两者的成本、时间和独立收益。3 总结请参考上述问题以指导你是否需要 RAG 和/或微调并通过内部实验来分析错误并理解可能的指标提升。最后微调探索确实需要一个稳健的数据收集和数据改进策略我们建议在开始微调之前进行这一步。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容​一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容​2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”