-正文-

==========================

  • 1. AI Agent的3个核心组件

  • 2. AI Agent的规划能力

  • 2.1 Task Decomposition 任务分解

  • 2.2 Self-Reflection 自我反思

  • 3. AI Agent的记忆机制

  • 4. AI Agent的工具调用能力


AI Agent,即人工智能代理,一般直接叫做智能体。它是一种能够感知环境、做出决策并采取行动的系统。这些系统能够执行被动的任务,也能够主动寻找解决问题的方法,适应环境的变化,并在没有人类直接干预的情况下做出决策。

一文说清楚什么是AI Agent(智能体)

LLMs 的强大推理能力让 AI Agent 的表现跨越式提升。让Agent 向“决策性”转型。AI Agent的技术框架涉及多个层面,包括规划、记忆、工具和行动,其中规划、记忆、工具是AI Agent的3个核心组件。

1. AI Agent的3个核心组件

Planning 规划 : Agent需要具备规划(同时也包含决策)能力,以有效地执行复杂任务。这涉及子目标的分解(Subgoal Decomposition)****、连续的思考(即思维链)、****自我反思和批评(Self-critics),以及对过去行动的反思(Reflection)

Memory 记忆 : 包含短期记忆和长期记忆两部分。短期记忆与上下文学习有关,属于提示工程的一部分,而长期记忆涉及信息的长时间保留和检索,通常利用外部向量存储和快速检索。

Tool 工具 : 包括 Agent 可能调用的各种工具,如日历、计算器、代码解释器和搜索功能等。由于大模型一旦完成预训练,其内部能力和知识边界就基本固定下来,而且难以拓展,因此这些工具显得尤其重要。这些工具可以扩展Agent的能力,使其能够执行更复杂的任务,

Agent基于规划和记忆来执行具体的行动。这可能包括与外部世界互动,或者通过调用工具来完成一个动作(任务)。

图1:组件

AI Agent 是通过一个完整的流程互相关联各个组件来处理和解决任务,见图2。

接收任务(Task Receiving) : Agent首先通过读入提示(即图中的查询+附加知识 +人设指示)来接收需要处理的任务。

记忆更新(Memory Update ) : Agent 根据具体任务更新系统的记忆,确保所有相关信息都是最新的,以便在处理任务时使用。

记忆检索(Memory Retrieval) : 由于记忆可能非常庞大,因此需要从记忆中检索相关信息,或者在必要时进行截断,以便高效处理信息。

任务规划(Task Plan) : 基于提供的结构化工具、记忆和查询提示,大模型生成一个包含任务名称的计划,计划包含后续步骤和动作,其中说明了需要调用哪些工具及参数。

工具执行(Tool Execution) : 如果在“任务规划”模块产生的是任务完成的信号那么循环将终止,并提示Agent任务完成,可以生成结论,否则,系统将调用并执行指定的工具。大模型在观察工具生成的指定格式的结果后,将其整合到任务记忆中。

总结(Concluding): 系统会总结出最终的答案,以完成整个任务处理过程

图2:流程

可以看出Agent执行任务时的循环非常重要。这个循环促使 Agent 不断反思,并根据当前状况判断是否完成任务。

2. AI Agent的规划能力

一个复杂的任务通常涉及许多步骤。AI Agent需要知道它们是什么,并且提前规划。

2.1 Task Decomposition 任务分解

思维链(Chain of thought ): 模型被指示“逐步思考”,以利用更多的测试时间计算将困难任务分解成更小、更简单的步骤。CoT 将大任务转化为多个可管理的任务,并揭示了模型思考过程。

思维树(Tree of Thoughts,ToT) : 通过在每个步骤探索多种推理可能性,进而形成一种树状结构。思维树可以用不同的搜索方法,例如广度优先搜索(Breadth-First Search,BFS)深度优先搜索(Depth-First Search,DFS),并通过提示或投票来评估每个步骤

2.2 Self-Reflection 自我反思

自我反思是自主代理通过细化过去的行动决策和纠正之前的错误来迭代改进的重要方面。它在试错不可避免的真实世界任务中扮演着关键角色。

ReAct : 这个框架通过结合特定任务的动作和语言空间,让模型能够与环境交互,并生成推理轨迹。

Reflexion : 这是一个使 Agent 具备动态记忆和自我反思能力的框架。它通过帮助 Agent 回顾过去的行动来提高推理能力。

CoH(Chain of Hindsight ) : 这个方法通过向大模型展示一系列带有反馈的过去输出来鼓励大模型改进自己的输出

3. AI Agent的记忆机制

大模型形成记忆的机制可以总结为以下几种:

第一种是通过预训练形成记忆。大模型在大量包含世界知识的数据集上进行预训练在预训练中,大模型通过调整神经网络的权重,学习理解和生成人类语言,这可以被视为其’记忆”的形成过程。通过使用深度学习神经网络和梯度下降等技术,大模型可以不断提高基于输入预测或生成文本的能力,进而形成世界知识和长期记忆。

第二种是上下文互动。大模型在执行任务时,会将长期记忆和提供的上下文(也就是提示信息)结合起来使用。理想情况下,如果上下文包含与大模型的记忆知识冲突的任务相关信息,那么大模型应优先考虑上下文,以生成更准确和具有上下文特定性的回应。通过诸如知识意识型微调(knowledge-aware fine-tuning)等方法,可以增强大模型在使用上下文和记忆知识方面的可控性和鲁棒性。

第三种是通过针对特定任务的微调进行增强。大模型可以在更具体的数据集上进一步微调,以适应特定行为或提高特定任务的性能。例如,针对SAT(Satisfiability,可满足性)问题数据集进行微调的大模型在回答此类问题时会更加熟练。

第四种是大模型与外部记忆系统整合,通过提供长期记忆来增强大模型性能,使大模型能够记住和回忆过去的互动、理解用户的个性并提供更个性化的互动。这涉及动态个性理解、使用双塔密集检索模型的记忆检索,以及受艾宾浩斯遗忘曲线理论启发的记忆更新机制等。RAG 也可视为和外部知识系统整合的过程,这相当于给大模型提供了一个“外挂第二大脑”

图3:RAG作为外部记忆被AI Agent整合

4. AI Agent的工具调用能力

工具使用是人类的一个显著和独特的特征。我们创造、修改和利用外部物体来做超出我们身体和认知极限的事情。调用工具的能力被视为 Agent的核心技能之一。这些工具可以提供额外的数据、处理能力、专业知识或其他资源,使 Agent能够执行更加复杂的任务。

Agent的能力和效率很大程度上取决于它们能否灵活地调用和利用各种工具。这些工具可以是应用程序、数据库、机器学习模型,甚至是其他 Agent。

图4:工具

ChatGPT 插件(Plugins )和 OpenAI API 函数调用( function calling)是实践中的良好示例,LLMs通过工具能力得到增强。工具 API 的集合可以由其他开发者提供或自行定义

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

Logo

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。

更多推荐