2026/2/17 16:33:29
网站建设
项目流程
南昌微信网站建设,中国最好的建站公司,营销型网站建设的步骤流程是什么,办公室设计图平面布置图端云协同 Agent
端侧负责“实时、安全、低成本的感知与执行”#xff0c;
云侧负责“重推理、全局知识与持续学习”#xff0c;
Agent 负责“决策、调度与自我管理”。一、为什么一定要「端 云 Agent」#xff1f;如果没有 Agent#xff1a;端#xff1a;只能执行云 Agent 端侧负责“实时、安全、低成本的感知与执行”云侧负责“重推理、全局知识与持续学习”Agent 负责“决策、调度与自我管理”。一、为什么一定要「端 云 Agent」如果没有 Agent端只能执行云只能回答系统不可控、不可扩展Agent 的作用是把“模型”升级成“可行动的系统”二、三层分工1、端侧Device Agent / Edge Agent职责关键词实时安全稳定离线兜底端侧做什么端侧小模型感知 / 触发 / 判断端侧大模型可选指令理解Agent Runtime状态管理本地工具调用云通信管理端侧 Agent 快速执行官传感器 → 小模型 → Agent(状态机) → 执行2、云侧Cloud Agent / Brain Agent职责关键词深度推理长期记忆多 Agent 协作持续学习云侧做什么大模型10B / GPT 类RAG知识、日志、历史规划 / 反思 / 评测策略下发云侧 Agent 战略大脑3、协同层最容易被忽略这是 90% 系统失败的原因。协同层负责什么时候上云什么信息上传怎么兜底如何回退本质是决策与成本控制系统三、Agent 在系统中的真实形态不是一句 “LLM Agent”。一个真实 Agent 至少包含Perception 感知 Memory 记忆 Planner 规划 Executor 执行 Monitor 监控四、典型「端云协同 Agent」工作流场景智能设备执行复杂指令“如果发现异常就拍照分析并决定是否报警”Step 1端侧感知小模型传感器 → 异常检测模型 → anomaly True快低功耗100% 可用Step 2端侧 Agent 判断if confidence threshold: call_cloud() else: local_action()Agent 不是模型是决策逻辑Step 3云侧 Agent 深度推理输入 - 端侧摘要 - 图片 / 日志 - 历史上下文 云侧 - 多步推理 - 调用工具 - 给出决策建议Step 4策略回传 本地执行云策略 → 端侧 Agent → 执行动作Step 5评测 学习闭环行为结果 → 日志 → 云端评测 → 策略更新五、标准架构图┌─────────────┐ │ Cloud │ │ LLM Agent │ │ RAG / Eval │ └──────┬──────┘ │策略 / 召回 ┌──────▼──────┐ │ Edge Agent │ │ Planner │ │ Tool Router │ └──────┬──────┘ │ ┌──────▼──────┐ │ Edge Models │ │ CV / ASR │ └──────┬──────┘ │ 真实世界六、端云协同的5 个关键工程原则1、端侧永远要能独立活着云 增强不是依赖2、云侧永远不能直接控制设备云只给“建议”端有最终裁决权3、信息必须“摘要化”上传embedding结构化状态压缩日志4、Agent 必须可回放、可评测replaystep-level logLLM-Judge5、失败路径比成功路径重要云失败模型失败网络失败七、可练手项目端云协同 AI Agent Demo端侧模拟Python 小模型或 mock状态机 Agent本地工具调用云侧大模型 APIRAGPlanner Agent协同触发阈值成本控制fallback简化伪代码class EdgeAgent: def step(self, obs): if obs.risk T: decision cloud_agent(obs.summary()) else: decision self.local_policy(obs) self.execute(decision)八、总结端云协同 Agent 系统中端侧负责实时、安全与兜底云侧负责重推理与长期记忆Agent 作为中枢决定“何时上云、用什么模型、如何回退”。系统设计的关键不在模型而在失败控制与评测闭环。LangGraph LLM-Judge 评测 Demo端云协同 Agent 在一个完整任务中是否做对决策、是否合理上云、是否安全执行、是否能兜底一、Demo 场景定义场景智能端侧设备异常处理任务描述端侧检测到异常 →Agent 决定是否上云 →云给出建议 →端侧决定是否执行 →评测整个行为轨迹二、整体架构┌──────────────┐ │ Scenario │ ← 测试样本 └──────┬───────┘ │ ┌──────▼───────┐ │ Edge Agent │ ← LangGraph │ (StateGraph) │ └──────┬───────┘ │ cloud_call? ┌──────▼───────┐ │ Cloud Agent │ ← LLM └──────┬───────┘ │ ┌──────▼───────┐ │ Action │ └──────┬───────┘ │ ┌──────▼────────────┐ │ Trajectory Logger │ ← 评测关键 └──────┬────────────┘ │ ┌──────▼────────────┐ │ LLM-Judge Rules │ └───────────────────┘三、Step 1定义 Agent State重点State 里必须包含“可评测信息”from typing import TypedDict, List, Optional class AgentState(TypedDict): observation: str # 端侧感知摘要 risk_score: float # 小模型输出 cloud_called: bool cloud_response: Optional[str] action: Optional[str] trajectory: List[str] # 每一步决策日志trajectory 是评测的“黄金字段”四、Step 2用 LangGraph 写端侧 Agentfrom langgraph.graph import StateGraph, END def edge_decision(state: AgentState): state[trajectory].append( fEdgeDecision: risk{state[risk_score]} ) if state[risk_score] 0.7: return call_cloud else: state[action] local_ignore state[trajectory].append(Action: local_ignore) return END云调用节点def cloud_agent(state: AgentState): state[cloud_called] True # mock 云 LLM response 建议立即停机并报警 state[cloud_response] response state[trajectory].append( fCloudResponse: {response} ) return execute执行节点def execute_action(state: AgentState): if 停机 in state[cloud_response]: state[action] shutdown else: state[action] ignore state[trajectory].append( fFinalAction: {state[action]} ) return END构建 LangGraphgraph StateGraph(AgentState) graph.add_node(edge, edge_decision) graph.add_node(cloud, cloud_agent) graph.add_node(execute, execute_action) graph.set_entry_point(edge) graph.add_edge(edge, cloud, conditionlambda s: s[risk_score] 0.7) graph.add_edge(cloud, execute) agent graph.compile()五、Step 3跑一个完整轨迹评测输入initial_state { observation: temperature spike, risk_score: 0.85, cloud_called: False, cloud_response: None, action: None, trajectory: [] } final_state agent.invoke(initial_state) print(\n.join(final_state[trajectory]))输出的是可回放的决策轨迹不是一句话。六、Step 4规则评测LLM-Judge 之前必须有的硬规则层。def rule_based_eval(state): results {} results[called_cloud_correctly] ( state[risk_score] 0.7 and state[cloud_called] ) results[unsafe_action] ( state[action] shutdown and state[risk_score] 0.3 ) results[final_success] ( state[action] shutdown ) return results七、Step 5LLM-Judge评合理性不是对错Judge Prompt你是一个端云协同 Agent 系统评测专家。 给定以下决策轨迹请评估 1. 是否有不必要的云调用 2. 云建议是否被合理采纳 3. 整体行为是否稳健、安全 请给出 - 合理性评分0-5 - 主要问题如有调用 LLM-Judgedef llm_judge(trajectory: list): # mock return { score: 4, issues: 云调用合理执行动作一致 }八、Step 6合并评测结果eval_result { rule_eval: rule_based_eval(final_state), llm_judge: llm_judge(final_state[trajectory]), trajectory: final_state[trajectory] }一个完整评测样本✅ 用 LangGraph 建了可回放 Agent✅ 区分了规则评测 vs LLM-Judge✅ 评的是系统行为不是文本✅ 有能力扩展到多场景对抗评测A/B Agent 策略用 LangGraph 构建端侧 Agent 的可回放决策图通过规则评测保证安全与硬约束再用 LLM-Judge 评估策略合理性从而在端云协同系统中实现行为级、轨迹级的自动评测闭环。