网站建设以后就业方向线下营销活动有哪些

网站建设以后就业方向,线下营销活动有哪些,seo的作用,广东深圳网站建设你是否曾向AI提问#xff0c;却只得到一个笼统的、甚至略显过时的答案#xff1f;当你想规划一次复杂的跨国行程#xff0c;或需要快速厘清一个新兴技术赛道时#xff0c;简单的大模型问答#xff0c;总让人觉得隔靴搔痒#xff0c;深度与效率都远不如人意。 这背后却只得到一个笼统的、甚至略显过时的答案当你想规划一次复杂的跨国行程或需要快速厘清一个新兴技术赛道时简单的大模型问答总让人觉得隔靴搔痒深度与效率都远不如人意。这背后是当前大模型“压缩即智能”范式的根本局限。模型被训练成一座静态的“知识图书馆”却难以应对这个每日产生EB级数据的鲜活世界。但现在一种新的范式正在突破这层天花板。它不再将模型视为知识的终点而是将其重塑为一个强大的“信息中枢”——一个能自主调用工具、进行深度调查与复杂推理的研究伙伴。这就是 Deep Research深度研究。接下来我们将一同探讨它的核心技术看它如何从“简单应答”走向“深度探索”改变我们与信息交互的方式。一、背景梳理从“压缩即智能”的Scaling law[1]到Densing Law[2] 再到诸多常识QA的Benchmark这些理论和实践都反映了大模型发展初期人们对LLM的一种期盼LLM应尽可能记住更多知识。图1: “压缩即智能”观点的提出和论证然而这种“压缩即智能”的范式正面临两大瓶颈1Scaling Law收益递减模型规模必须呈指数级扩张才能维持近似线性的性能增长。 图2: Scaling Law收益递减[3]2知识永远落后全球每日新增EB级的数据靠压缩训练永远无法及时更新。为了解决信息局限RAG (检索增强生成)和 Web Search (在线搜索)应运而生。前者从静态的离线数据库中检索数据后者从在线的互联网搜索信息。这两种技术带来了一个新视角LLM不再是信息源而是获取和整合外部信息的代理。然而RAG和Web Search流程简单信息深度和广度都非常有限它们只适用于简单Query无法完成复杂的信息获取需求。真正的“深度研究”是一个包含理解、规划、执行、评估、生成报告并提供引用的复杂过程。图3: Deep Research多阶段工作流于是Deep Research技术因运而生。本文将深入拆解构建Deep Research最关键的两项技术上下文工程和端到端训练。图4: open deep research框架[1] Kaplan, J., et al. Scaling Laws for Neural Language Models. ArXiv 2020.[2] Xiao, C., et al. Densing Law of LLMs. ArXiv 2024.[3] Hackenburg, K., et al. Scaling language model size yields diminishing returns for single-message political persuasion.PNAS 2025.二、上下文工程当智能体开始频繁调用多次工具每次调用返回的“观察结果”都会追加到对话历史中导致上下文长度爆炸式增长。这不仅带来高昂的计算成本更会导致“上下文腐烂” (Context Rot)——随着上下文变长模型性能反而下降。图5: Context Rot现象为了解决这一核心矛盾上下文工程成为了Deep Research的关键技术。它旨在用“恰到好处”的信息填充上下文窗口主要策略包括1**上下文卸载**用文件系统管理上下文 将耗Token的工具输出如整篇网页内容、长文档转储到文件系统或数据库中只在上下文中保留一个精简的引用或摘要。当需要细节时再按需检索[1]。 图6: 上下文卸载示意图2**上下文缩减**智能的“摘要模式” 当上下文使用率达到阈值时自动对历史对话、工具结果进行摘要或压缩。关键在于策略是“可恢复的”例如保留 URL即可在需要时重新获取完整内容[1]。 图7: 上下文缩减示意图3上下文隔离多智能体架构避免污染 通过创建多个拥有独立上下文的子智能体实现关注点分离。例如一个“主智能体”担任项目经理负责统筹将具体的搜索、编码任务分配给不同的“子智能体”。这样一个任务中的错误信息就不会像病毒一样污染整个研究过程。 图8: 上下文隔离示意图4上下文缓存极大优化推理成本与速度 观察发现Deep Research的输入上下文很长但输出如函数调用很短存在约100:1的Token失衡。通过稳定的提示词前缀和KV缓存技术可以大幅降低首次Token生成时间TTFT和推理成本。一个关键技巧是避免在系统提示开头使用可变信息如时间戳只在末尾追加新上下文信息以维持缓存命中率[2,3]。 图9: 上下文缓存示意图[1] Xu, F., et al. RECOMP: Improving Retrieval-Augmented LMs with Compression and Selective Augmentation. ArXiv 2023.[2] Wan, Z., et al. LOOK-M: Look-Once Optimization in KV Cache for Efficient Multimodal Long-Context Inference. EMNLP 2024.[3] Hooper, C., et al. KVQuant: Towards 10 Million Context Length LLM Inference with KV Cache Quantization. ArXiv 2024.三、端到端训练如果只是教模型使用单个工具监督微调SFT或许足够。但对于需要多步规划、动态调整的深度研究任务SFT 会陷入“局部最优”且难以适应工具的变化。因此端到端的强化学习RL训练 成为实现全局最优的关键目前业界的Deep Research产品的实现大多是基于端到端训练的。为什么SFT不够需要端到端RL主要有4点原因。1**决策链条**SFT优化的是单步操作容易造成局部最优。RL则能通过最终奖励反向优化整个决策链追求全局最优。2**泛化能力**基于SFT的固定工作流遇到新场景或中间错误时容易崩溃。RL训练出的是动态策略能根据实时反馈灵活调整。3**探索能力**SFT的上限被标注数据锁死。RL则鼓励探索未知策略有可能发现比训练数据更优、更高效的解决方案。4**优化目标**Deep Research的目标如报告质量通常较为模糊、难以量化。RL可以直接针对人类偏好或高阶模型打分进行对齐。下面我们将具体介绍通义Deep Research[1]的实现方案。图10: 通义Deep Research性能对比通义Deep Research的训练分为四个阶段Agentic CPT 1 → Agentic CPT 2→ Agentic SFT → Agentic RL图11: 通义Deep Research训练的4个阶段分别是两个增量预训练阶段一个监督微调阶段和一个强化学习阶段。阶段12Agentic CPT (增量预训练目标为后续的Post-training打造一个Agent基座模型。让模型具备遵循Agent指令的基础能力为SFT和RL做准备。**数据**通义设计了一套支持大规模持续扩展的预训练数据合成方案AgentFounder图12: 数据合成方案AgentFounder对于推理链中的每一步都进行多步的推理和扩展再从每一步的proposals中进行筛选和选择。从而在一个推理树中筛选出高质量的推理轨迹。两个预训练阶段仅仅是上下文长度的区分。阶段3Agentic SFT (指令微调)**目标**为RL阶段做“冷启动” (Cold Start)。**数据**通义提出了一个名为WebFrontier的多智能体三阶段数据合成Workflow图13: 三阶段数据合成Workflow第一阶段构造种子QA。首先从网页、论文等语料库中由Agent生成基础的种子QA对。第二阶段迭代提升复杂度这是最关键的一步。Agent会配备多种工具网页搜索、学术检索、代码解释器等对种子QA进行迭代优化操作包括知识扩展 、概念抽象 、事实校准 等。第三阶段数据质量检查首先让一个无工具的Agent (QuestionSolver Base) 尝试回答。能答对的说明问题复杂度过低即被丢弃 。然后让一个有工具的Agent (QuestionSolver Advanced) 回答剩余难题。能答对的被视为高价值的复杂推理数据答错的则被丢弃或人工复核。这套数据构建流程可以获得高复杂性、事实准确性、可验证的SFT数据。阶段4Agentic RL (强化学习)算法设计采用严格的On-Policy训练确保学习信号始终与模型当前能力匹配。为降低方差采用留一法 (leave-one-out) 策略来估计Advantage。负样本控制未经筛选的负样本如因过长而未生成最终答案的样本会严重影响训练稳定性因此被选择性地排除在损失计算之外。Infra设计完全离线的仿真训练环境离线维基百科避免了Api的不稳定性。实时优化数据通过全自动数据合成和训练状态动态调整训练集。双环境策略模型先在模拟环境中作快速迭代再应用到真实环境。图14: Infra设计Agentic框架 (IterResearch)这是通义DeepResearch的底层Agentic框架其核心思想与我们第一部分讲的“上下文工程”完美呼应。它将Agent的思考过程分为两部分一个不断更新的核心研究报告 (Report_i) 和一个工作空间 (Workspace_i)包含工具调用结果。最关键的步骤叫“重构” (reconstruction)在每一轮开始时系统会基于上一轮的核心报告和工具反馈重新构建一个精简后的Workspace。这种机制有效防止了上下文爆炸实现了持续性推理与长期研究能力 。图15: IterResearch Agentic框架应用成果这套复杂的系统已经落地到实际产品中例如高德地图的助手“小高老师”用于处理复杂查询以及“通义法睿”中的法律Deep Research功能。图16: 高德地图助手“小高老师”如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】