网站标题主关键词可以做ps的网站

网站标题主关键词,可以做ps的网站,湖南省居民健康卡二维码下载,成都新津网站建设本文全面介绍AI大模型知识体系#xff0c;包括基本概念#xff08;参数、token、多模态等#xff09;和大语言模型原理#xff08;n-gram模型、神经网络、Transformer架构#xff09;。重点讲解实践方法#xff1a;提示词工程通过CO-STAR框架优化模型输出#xff1b;知识…本文全面介绍AI大模型知识体系包括基本概念参数、token、多模态等和大语言模型原理n-gram模型、神经网络、Transformer架构。重点讲解实践方法提示词工程通过CO-STAR框架优化模型输出知识库提供特定领域背景信息微调使通用模型适配特定业务场景。文章强调产品经理应关注大模型应用而非研究探索如何将其集成到现有系统中。一名词解释无论是配置模型还是使用都会遇到一些大模型相关的特有名词所以需要先了解这些名词是什么意思才能更好地运用它。参数参数是指模型的大小一般来说参数越大模型的能力越强。大模型的参数单位一般用“B”来表示1B代表10亿参数。以下面的两张图为例第一张图是阿里百炼平台的模型广场另一张图是欧拉玛的模型广场这里面的模型基本都会按照“名称”“版本”“参数”的形式分类。参数的单位基本都是“B”但是因为有些模型不是通用大模型而只是适用于某些领域的小模型所以参数量会比较小单位为“K”或“M”。单位包括K千、M百万、B十亿、T万亿。阿里云百炼欧拉玛Ollama参数越大那么模型就可能会占用越多的存储空间但因为不同模型对于权重、精度、压缩技术的处理方式不同所以参数与存储空间并不是线性关系。你如果问7B参数大小的模型占用多少内存空间我只能说不知道这要看具体的模型.每家模型训练的不一样那么相同参数的情况下所占用的存储空间也是不一样的。就好像同样是6年级的小学生有的身高一米五、有的身高一米七一样。tokentoken是大模型处理数据的最小单位比如一个字、一个词、一个像素、一段音轨等。我们试着将下面的句子拆分成最小单位–“你好”–这一段话可以将其拆分为“你”、“好”、“”这三个最小单位。–“我想吃虾丸。”–这一段话可以将其拆分为“我”、“想”、“吃”、“虾丸”、“。”这五个最小单位。这两句话在拆分时有一点不一样第二句话的“虾丸 ”并没有拆分成两个字而是以词的形式做了拆分原因是“虾丸”作为名词已经无法在进行拆分了如果拆分为“虾”、“丸”两个字那就导致句子失去了原有的含义。代码是怎么进行拆分的呢基本逻辑就是将一句话中的词挑出来剩下的就可以作为字来处理。中文分词工具包括THULAC (Tsinghua University Language Analysis and Computing、HanLP (Han Language Processing)、LTP (Language Technology Platform)等。另外对于大模型的提供方已经内置分词功能了或者说大模型本身就有分词能力不需要我们在做额外工作。上下文一段话的周围信息就是上下文例如连续问大模型两个问题这两个问题及回答互为上下文。日常在沟通过程中相同的问题我们会因为场景不同得出不同的结论。开需求评审会时我们会问技术同学、测试同学对需求有什么问题技术同学会从技术的角度回答需求有什么问题、测试同学会从测试的角度回答测试的问题。假如此时我们冲着门外的设计同学询问他们有什么问题设计同学会一脸懵因为他们不知道你是因为什么原因问的这个问题。回到图片示例的大模型问答上当我问“包含哪些部分”时大模型会基于第一句话理解我的意图再做出对应的回答。多模态是指可以处理多种类型的数据比如纯文字、图片、文档等而单一模态的模型是指只能处理文字或图片或声音的模型。下面的通义模型可以上传图片、文字、文档数据就是多模态大模型。下图的openai提供的一系列模型皆为多模态模型可以上传图片、文字。GPT3只能输入输出文字所以是单一模态的模型但是目前openAI已经不提供GPT-3及以前的模型了。温度是一个调整模型回复的随机性的值值越大随机性越高回复越有创造性值越小随机性越小回复越重复老套。这个名词来源于英语单词temperature可以将其翻译为温度、热度等。在使用模型时默认系统温度值即可如果在回复中感觉到模型的回复会重复这时就可以提高温度值如果感觉到模型回复漫无边际就可以降低温度值下图为智谱清言对于温度的介绍。温度值设置为最低时的回复ChatGPT温度值设置为最高时的回复ChatGPT向量值词向量向量是用来描述token在高维世界的特征数学领域中的向量是一个的数字列表在一维空间中位置可以用x表示在二维空间中则用x, y,表示。以此类推三维空间x, y, z四维空间x1,x2,x3,x4……如果道单选题题目给出了海豚、马、兔子、骆驼这四种动物让我们挑选出不一样的一种动物应该怎么选我希望你的答案是海豚因为海豚生活在海里其他动物生活在陆地上。当然你要非说是骆驼因为体型大非说是兔子因为兔子钻洞非说是马因为速度快那我也没办法。毕竟人就是通过各种各样的特征去了解事物的总能找到那个不一样的特征。那怎么让计算机知道这些特征从而理解世界呢我们可以将这些特征提取出来如果提取1个特征比如是不是陆地生物如果提取两个特征比如体型的大小。只有“陆地生物”这一个特征的时候越是符合这个特征则越靠近右侧为了方便知道其位置可以给一个坐标。如果增加“体型”这个特征的时候那么每一个动物也就拥有了二维坐标。如果继续增加特征呢那每个动物就会拥有三维坐标、四维坐标、五维坐标……用图像肯定不方便表示计算机中也不可能放一张无限维度的坐标图但是计算机中可以存储每个动物的坐标位置每一个数字就是对应了一个特征的值通过动物之间数字的对比就可以知道每个动物之间的差异及内涵。那计算机是怎么知道这些特征和数值大小的呢可以靠计算机学习让神经网络学习大量资料后让计算机去区分每一个token的特征和特征的值。二大语言模型LLM2.1为什么叫大语言模型能听懂人话并且和人沟通的模型叫做大语言模型。大语言模型主要是处理语言的处理什么数据就叫什么模型除了语言模型还有处理视觉、音频、生成数据等其他作用的模型。如果有人开发出了画原型图的模型也可以叫它“原型图模型”。多模态模型也就是综合了语言模型、视觉模型等多种模型能力的大模型。因为每一种模型的作用是不相同的为了让大模型的能力更强更方便使用所以产生了多模态大模型也就是即可以听懂人话也可以看懂图片是什么意思。2.2为什么大模型能够听懂人话我们并不确定计算机理解人类的语言还是概率运算的结果。我们可以教会鹦鹉说“你好”那我们可以说鹦鹉听懂了人类的语言吗不可以因为我们明确的科学的可以知道鹦鹉只是重复音节。大模型则是通过了大量的文本训练学会了语言中的各种沟通方式、文字与文字之间的排列规则、语法的结构。通过这一系列的规则运算给人一种可以听懂人话的感觉。要了解大模型是怎么变得这么厉害的那就需要从头开始说了。最早有关人工智能的概念来源于图灵他在《计算机器与智能》的论文里提出了“图灵测试”什么是图灵测试呢就是让一台机器和人对话如果这个人没法辨别和他对话的是机器还是真人那么就可以说这台机器具备了智能。为了使机器能够通过图灵测试研究人员开始研究人类语言。因为人是地球上拥有最高智慧的物种而语言是人类沟通过程中最重要工具更是智能的表现形式。具体怎么研究语言呢最直接的方式就是从语言的规则下手。比如n-gram模型就是根据人类的语言习惯通过前面的字来预测后面字的方式让计算机实现语言功能的而且现在的大模型也是站在n-gram模型的肩膀上发展出来的了解n-gram模型就能够很清楚的知道现在的大模型的实现逻辑。①入门级模型n-gram模型n-gram模型前面的N是指用几个词来预测下一个词。如果我们当前文字及前面的一个文字来预测下一个词这就叫做2-gram如果用当前文字及前面的两个文字来预测下一个词这就叫做3-gram。为了能够理解n-gram模型我们可以举个例子。有一个数据集里面只有两句话。1、我喜欢吃苹果。2、我喜欢吃香蕉。我们需要先将这两句话拆分token也就是“我”“喜欢”“吃”“苹果”“香蕉”。根据概率推算“我”后面必然会跟着“喜欢”两个字概率是100%那么当我们输入“我”这个汉字的时候系统就会根据概率输出“喜欢”这个词可见下图。如果规定模型持续运行直到生成一句话那么模型就会根据概率生成“我喜欢吃苹果”或者“我喜欢吃香蕉”因为“苹果”和“香蕉”两个词的概率都是50%那么系统会随机生成。但是n-gram模型也有很多缺陷因为n-gram模型是先假设每一个词都是互相独立存在彼此没有关系的。但词语和文字却是有实际意义的所以就导致模型没法理解上下文没办法解决句子中的逻辑关系。如果出现了新词语也没法理解其用法纯粹是概率计算。直到后来出现了神经网络技术。②大模型核心角色-神经网络神经网络是通过模仿大脑处理信息的方式而产生的计算模型是为了解决图像识别和逻辑运算的。神经网络的设计灵感来源于人脑的结构每个神经元代表一个基本的计算单元单个神经元实际上是一串代码用来处理简单的数学运算。尽管单个神经元的功能相对简单但当大量这样的神经元连接起来形成网络后整个网络就能够去处理复杂的任务。经典的神经网络可以分为三层结构输入层、隐藏层、输出层每一层都是由一堆神经元组成。输入层接收原始数据将原始数据经过预处理后传递给隐藏层。隐藏层通过线性加权求和、激活函数、权重等一系列运算将结果传递给输出层。输出层处理接收到的数据并输出结果将结果反馈给用户。总结一下就是每个神经元作为一个计算单元通过对输入数据进行加权求和并应用激活函数来提取有用的特征然后将处理后的信息传递到网络的下一层。在网络的输出层对于分类任务神经元可以输出表示不同类别的概率值。具体到图像识别任务图像是由像素构成的每个像素都有其特定的色值。以数字“6”为例我们可以给计算机大量数字6的图片计算机会将图像分解为像素然后将颜色转换成色值并分析这些色值的分布规律。最终当模型遇到新的、未见过的数字6图片时它能够基于已学到的规则将其识别出来。如果给神经网络提供大量高质量且标注准确的数据那么神经网络就可以拥有解释图像信息的能力。虽然神经网络这么厉害但因为早期的硬件限制导致发展并不顺利。前面我们可以得知神经网络是通过大量神经元构成的而每个神经元只负责简单的运算这种方式要求硬件能提供强大的并行处理能力以同时执行这些大量的简单运算任务。但当时训练神经网络只能依靠CPU且性能还有限。随着计算机硬件技术的发展特别是GPU的引入这才让神经网络的硬件环境得到改善。硬件技术的发展让研究人员能够去设计和训练更复杂的神经网络结构比如卷积神经网络、循环神经网络、注意力机制、预训练等。而现在的大模型都是基于神经网络架构的可以说没有硬件的发展、没有神经网络的发展就没有目前的大模型。而Transformer架构是神经网络中最主流的当前的大语言模型几乎都是基于Transformer架构搭建的。③主流架构-Transformer架构Transformer架构是特别适用于自然语言处理的神经网络模型。Transformer架构能够如此厉害在于Transformer架构能够通过向量数据、自注意力机制、神经网络等能力高效地处理和理解自然语言。向量数据每个token被转换为了高维向量通过token的向量值可以知道词汇本身的语义信息、特征还能分析出token与token之间的复杂关系。自注意力机制输入到神经网络的每一个token都可以与其他token发生联系并且通过“权重”来区分链接过程中的重要程度这样可以让大模型解决上下文关联问题避免提问第二个问题的时候忘记第一个问题。神经网络的能力通过全新的神经网络结构不仅能捕捉局部特征还能理解全局信息从而支持更深层次的语言理解和生成任务。国外的openai、谷歌、微软到国内的阿里、腾讯、清华的团队等都是基于或借鉴Transformer架构开发的大模型。https://bbycroft.net/llm 这是一个LLM可视化网站可以清楚地看到大模型每一步的工作细节。三大模型实践方法3.1提示词工程提示词功能的作用在于通过设定提示让大模型的回答更加精准。大模型训练时并不会针对特定领域是为广泛问题进行设计的。而提示词工程Prompt Engineering也叫上下文提示目的是希望大模型在回答问题时可以得知前因后果聚焦用户的特定需求。也就是无论形式如何只要能够让大模型得知你的需求就是提示词只要让大模型给你想要的答案就是好的提示词哪怕你问的是“11等于几”。比如你让大模型扮演某个角色你可以告诉大模型“你要扮演鲁迅回答的风格要与鲁迅的作品类似”。那么大模型就会扮演鲁迅且通过鲁迅的说话风格回答你的问题。而在创建智能体时也会让用户填写智能体的设定这个设定就起到了提示词的功能。针对复杂问题为了从大型语言模型中获得高质量的回答我们需要提供更加详尽的问题描述。在2023年11月新加坡举办了首届提示词功能大赛冠军Sheila Tao撰写了一篇文章探讨了她对提示词的理解并介绍了CO-STAR框架的应用方法。工作原理如下C背景提供任务的背景信息这有助于 LLM 了解正在讨论的具体场景确保其回应是相关的。O目标明确你希望 LLM 执行的任务是什么明确你的目标有助于 LLM 集中精力实现该特定目标。S风格指定您希望 LLM 使用的写作风格这可能是某个名人的写作风格也可能是某个行业的某个专家比如商业分析师或 CEO。这将指导 LLM 以符合您需求的方式和措辞进行回复。T语气设定回应的态度这确保 LLM 的回应与预期的情绪或情感背景产生共鸣。例如正式、幽默、富有同理心等。A受众确定回复针对的对象根据受众例如某个领域的专家、初学者、儿童等定制 LLM 的回应确保它在您需要的背景下是适当且易于理解的。R回复提供回复格式这可确保 LLM 输出的格式与您执行下游任务所需的格式完全一致。示例包括列表、JSON、专业报告等。对于大多数以编程方式处理 LLM 响应以进行下游操作的 LLM 应用程序而言JSON 输出格式是理想的选择。如果我们希望大模型可以帮产品经历写一份年终总结就可以按照CO-STAR框架编写提示词。背景我是“XXXXX”公司的产品经理负责XXXXXX应用。在过去的一年中我们实现了多项功能升级并且用户基数有了显著增长。目标编写一份全面的年终总结报告概述本年度的关键成就、遇到的主要挑战及解决策略并简要介绍下一年的战略规划。风格采用清晰、专业的商务写作风格类似于业界公认的产品经理或公司领导人的表达方式。语气正式而积极体现对团队努力的认可以及对未来发展的乐观态度。受众这份报告将提交给公司的高级管理层以及我的直接上司并会在内部分享给整个产品团队。回复请按照标准的年终总结格式提供文档包括封面页、目录、引言、年度回顾、主要成就、面临的挑战与解决方案、未来展望等部分。文档需保持专业性重点突出。如果不会写提示词怎么办没关系可以复制文中的工作原理把写提示词的工作交给大模型。虽然可以通过CO-STAR框架中说明了提示词该怎么写但我们的重点并不在于如何编写提示词而在于让大模型给出我们满意的答案。3.2知识库知识库就是资料库目的就是为大模型处理问题提供必要背景知识。虽然大模型擅长处理广泛领域的常见问题但在面对特定领域内深入且专业的问题时存在局限性而知识库提供了特定领域的信息帮助其解决特定问题。如果希望大模型帮助企业优化供应链管理那么大模型就需要知道供应商信息、库存水平、物流数据、采购数据等信息。如果希望大模型能够帮助系统应用那么大模型就需要知道项目管理流程、技术文档、操作说明书等信息。而这些信息就需要存放到知识库作为大模型的知识储备。chatgpt的存储功能阿里百炼的数据管理功能这里需要注意大模型和知识库是两种不同的技术只是针对于特殊问题需要知识库提供特定信息。所有的数据都需要存储在服务器上常见的数据库类型包括关系型数据库、非关系型数据库这些数据库可以有效地存储和管理结构化与非结构化数据。然而对于大模型来说这些传统的存储方式并无本质区别它们更像是文件夹用于存储和检索信息。并不是知识库的数据就需要向量存储只是需要处理相似性任务的时候需要用到向量数据库。前面提到大模型时也有提到大模型的本质是概率计算通过token与token之间向量值的对比来生成数据这种基于向量的计算方式使得大模型能够理解和处理复杂的模式和关系。只要任务需要用到数据与数据的相似性对比那么就需要用到向量数据库可见第一部分的向量词。对于产品经理来说我们必须知道如何运用知识库如果想要进一步的了解向量数据库可以询问大模型、B站搜索向量数据、阿里云或腾讯云的开发文档及介绍。3.3微调微调就是让通用的大模型更加适用于某个特定项目。如果大模型是一个大学生知识库相当于公司资料而微调工作就相当于入职培训培训其如何与客户继续沟通。听起来微调似乎很高深但其实大模型厂商都会提供对应的微调功能我们可以通过平台提供的微调模板了解微调是什么。微调的目的是通过使用实际案例来优化大模型的表现能力使其更符合特定应用场景的需求。无论是像ChatGPT还是通义这样的大模型都是采用一问一答的形式进行。通过提供企业自身的实际案例微调过程可以让大模型学习到更加精准和符合企业需求的回复方式从而使通用的大模型能够高度适配企业的具体业务场景。这样不仅提升了模型的实用性还增强了其在特定领域中的表现力和准确性。最后对于AI产品经理来说我们的核心工作是应用大模型而不是作为大模型的研究者。无论各研究团队推出了什么新的架构对于产品来说都不重要重要的是如何将其集成到现有的系统中。至于如何集成到系统不同公司有不同的解决方案这些就需要在工作中探索了。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。大模型入门到实战全套学习大礼包1、大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通2、大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。3、AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。4、大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。5、大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。适用人群第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】