长春火车站电话成都cms建站

长春火车站电话,成都cms建站,wordpress 试题,蚁百杭州网站seo优化LLM火了这么长时间#xff0c;RAG、mcp、embedding等技术名词也出现在了日常的公众号文章中#xff0c;你有了解过这些技术吗#xff1f;大模型出现幻觉啦 你可以把大模型想象成#xff1a;一个知识渊博、口才极佳的“大忽悠”。 这个“大忽悠”脑子里装了海量的知识#…LLM火了这么长时间RAG、mcp、embedding等技术名词也出现在了日常的公众号文章中你有了解过这些技术吗大模型出现幻觉啦你可以把大模型想象成一个知识渊博、口才极佳的“大忽悠”。这个“大忽悠”脑子里装了海量的知识所以跟你聊天时总是侃侃而谈听起来非常有道理。但问题是他有一种“无法忍受沉默和不知道”的强迫症。当你问到一个他不知道或者他记忆模糊的事情时他不会说“我不知道”而是会基于他已有的知识“脑补”出一段听起来极其合理、但完全是编造的内容并且用非常自信、肯定的语气告诉你。这就是大模型的“幻觉”学术上常称为“胡言乱语”或“虚构”。它指大模型生成的内容在事实层面是错误的、不存在的但形式上却非常连贯、可信。比如~我的代码里有一个名为CustomFilter注解这个注解大模型肯定不知道吧…下面是大模型的回答我搜了下Mybatis-Plus并没有这个注解。让大模型别“胡说八道”如何不让大模型胡说八道呢看一下下面这些方式吧其中 RAG 将会是我们这篇文章讲述的重点。Prompt - 在提问时给它立规矩通过精心设计你的提问方式来约束模型的行为。•是什么在提问的指令中明确告诉模型“必须基于已知事实”、“如果不知道就明确说不知道”、“禁止虚构信息”。• 举例提示词如下大模型也给出了“不知道”的回答plaintext1.不确定、不清楚、无法确认的内容一律回答不知道。2.不能根据猜测、可能性、假设来回答。3.所有回答必须基于确定、准确、可靠的知识。4.不允许编造事实或补充未经确认的信息。•优点零成本简单易用对所有模型都有效。•缺点约束力有限对于复杂或模型知识盲区的问题它可能还是会“忍不住”编造并且我们是想要它回答的…Fine-Tuning - 从根本上改变它的知识•是什么用大量“高质量、高事实性、相关内容的”的数据对基础模型进行额外的训练微调其参数。•优点能从模型内部提升其事实性和可靠性效果比较根本。•缺点成本高昂需要大量算力和高质量数据过程复杂而且无法教给模型它从未学过的知识比如最新新闻。比曾经的AI六小虎搜狗创始人王小川创立的百川智能已经不再推出通用大模型转向医疗大模型背后就是给大模型不断的 Fine-Tuning 医疗相关的数据。RAG - 给它一本“参考答案”让它照本宣科这是目前最流行、最有效且成本最低的方法。•是什么检索增强生成。在让模型回答之前先从一个你准备好的、可信的知识库比如公司文档、产品手册、权威论文里搜索出与问题最相关的片段然后把“问题相关片段”一起交给模型让它基于这些片段来组织答案。•生活比喻就像考试时不允许学生自由发挥而是发给他一本《标准答案汇编》要求他所有的回答都必须引用这本汇编里的原话。• 如何工作准备知识库把你的所有可靠资料PDF、Word、网页等处理成可搜索的格式。用户提问用户问“我们产品的旗舰型号支持哪些AI功能”实时检索系统立刻在你的产品手册知识库里搜索“旗舰型号”、“AI功能”等关键词找到最相关的几段描述。组合并回答模型收到的指令实际上是“请根据以下资料回答用户的问题。资料[检索到的产品手册原文]。 问题我们产品的旗舰型号支持哪些AI功能”模型生成模型会乖乖地基于你提供的资料总结、复述生成答案几乎不会编造。检索增强生成Retrieval-Augmented Generation•解决思路将外部知识库与LLM结合通过检索获取相关信息增强生成质量•核心价值降低幻觉、提供实时信息、支持私域知识一个RAG系统的基本架构就是如下图所示分为索引、检索、生成三个步骤接下来我们娓娓道来什么是向量想象一下你正在教一个外星人理解地球语言。这个外星人不懂中文、英文但它精通数学。你怎么向它解释苹果这个词的含义呢向量的神奇之处就在于它把人类语言中模糊的、主观的语义概念转换成了精确的、可计算的数学表示(最终形态是 一个固定长度的浮点数数组)。把你的资料向量化在RAG中便是将你所要构建的“知识”文本先切分成很多端的小块然后将这些小块使用向量模型进行向量化最后将文本块的向量和文本块同时存到向量数据库当中。文本块向量和文本块是一种key-value结构所以后面我们找到了文本块向量也就找到了文本块。1. 文本分块处理• 固定长度分块按预设字符数均匀切分适合格式规整的文档• 语义分块基于句子边界和语义完整性进行智能分割• 重叠分块在相邻分块间设置重叠区域避免关键信息被割裂• 自定义分块可根据段落、章节等文档结构进行灵活划分2. 向量化编码• OpenAI的text-embedding-ada-002等系列• Google的BERT及其变体模型• Sentence-BERT等专用语义编码模型• 阿里云的text-embedding系列• 轻量级本地部署• all-MiniLM-L6-v2等小型模型 试过了不好用别用中小型公司乖乖用厂商的• 针对中文优化的m3e等开源模型3. 向量存储方案• Milvus开源首选强推国产之光• Pinecone全托管服务• Chroma轻量易用• 传统数据库扩展• ElasticSearch with 向量插件• PostgreSQL pgvector扩展• Redis 向量搜索模块检索向量化后的内容那么将原始的文档转换为向量存储后我们要怎么用呢其实一个向量可以在一堆向量之间找出他的“哥们”。举个假如全世界的人都面部信息是一个向量数据库我们把周杰伦的脸看作一个向量那么向量数据库就会很快给我们匹配出“周饼伦“。那么我们想要从向量数据库里匹配出相似的内容需要以下步骤• 将查询的内容也转换为向量• 计算查询向量与所有文档向量的相似度• 返回相似度最高的K个文本块前面我们讲了向量和文本块是一种key-value结构我们搜索到了向量就找到文本块这里向量起到的是一个索引的作用怎么计算相似度呢计算向量相似度常用的算法有三种分别是点积相似、余弦相似、欧氏距离点积相似度点积相似的计算方式很简单就是两个向量对应位置的数值相乘值越大就是越相似plaintext 点积 (A₁ × B₁) (A₂ × B₂) (A₃ × B₃) ... (Aₙ × Bₙ) Σ(Aᵢ × Bᵢ) 对于 i 从 1 到 n余弦相似度其实就是高中学的计算两个点与原点形成的夹角的余弦值比如说已知平面内两个点X(x1,y1) 和 Y(x2,y2)我们就是要计算这两个点与原点的连接线的夹角的余弦值最终也是值越大的越相似。公式如下plaintext A·Bcos(θ) ——————————————— |A| × |B|其中A·B 向量A和B的点积|A| 向量A的长度 √(A₁² A₂² ... Aₙ²)|B| 向量B的长度 √(B₁² B₂² ... Bₙ²)举个吧假设向量A (1, 2, 3)向量B (4, 5, 6)计算步骤1. 点积 A·B (1×4) (2×5) (3×6) 4 10 18 322. 向量A长度 |A| √(1² 2² 3²) √(1 4 9) √14 ≈ 3.743. 向量B长度 |B| √(4² 5² 6²) √(16 25 36) √77 ≈ 8.774. 余弦相似度 32 / (3.74 × 8.77) ≈ 32 / 32.8 ≈ 0.975欧氏距离在语义空间中测量直线距离公式为距离 √[(A₁-B₁)² (A₂-B₂)² … (Aₙ-Bₙ)²]三种方式的适用场景余弦相似度文本语义比较、文档检索排序、内容推荐系统多数场景用的都是这个欧氏距离空间位置测量、聚类分析、异常检测点积相似度快速初步筛选、计算资源有限场景说白了就是比较拉LLM 生成好了经历了上面流程我们基本知道了索引和检索的过程那么经过检索匹配后的文档就会作为我们跟大模型交互的一部分这样大模型就会根据我们推荐给它的文档进行思考回复就避免“胡说八道”。下面有一个完整的流程图可以回顾一下~RAG 实战案例为了更深入的了解 RAG 我们就利用 Cherry Studio 这个工具搭建一个最简单的 RAG第一步-注册一个阿里百炼的账号为什么选择阿里百炼其实现在的 LLM 差距并不大我们选择哪家都可以最主要的百炼平台上有向量模型我们从上面取一份密钥就可以直接用 LLM 和向量模型啦比较方便一点也许腾讯云、百度飞桨、字节火山也会有但是我并不知道…这个随意我们就直接创建一个API 复制就行了第二步-打开Cherry Studio进行相关配置首先在模型服务中搜索到“阿里云百炼”然后填充好刚刚复制好的密钥检测成功即可然后点击最下方的添加按钮添加向量模型text-embedding-v4第三步-添加知识库创建知识库配置向量模型添加要向量化的文件或者目录的位置我要演示的是 CustomFilter 这个注解所以就把有这个注解的MilvusPlus的源码添加进来了这整个过程对应的就是之前讲的RAG系统中的索引流程第四步-配置助手体验知识库首先我们先不给他配置知识库体验一下他是否会“胡说八道“确实在胡说八道了。。。。现在编辑助手给他安排上知识库看一下完美撒花想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容​一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容​2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”