借助大模型实现从数字化到智能化

借助大模型实现从数字化到智能化

2024年5月初，国家发展改革委办公厅、国家数据局综合司印发《数字经济2024年工作要点》（以下简称《工作要点》），对2024年数字经济重点工作作出部署。国家发展改革委办公厅和国家数据局综合司印发的这份文件，提出了九方面的重点工作，包括适度超前布局数字基础设施、加快构建数据基础制度、深入推进产业数字化转型等，旨在全面推动数字经济的高质量发展。

在进行IT系统集成或设计某些自动化流程时，其实已经有Agent这一层了，尤其是在设备与外界交互的环节，而那时还没有将大模型技术整合进来以实现更广泛的泛化能力和生成式能力。大模型技术引入后，起初人们并没有考虑将其应用于设备控制或高度交互性的IT系统交互中，而主要看中其在创作和生成内容方面的潜力。在设备代理方面的工作与AI Agent的概念思路颇为相似，只是随着大模型的加入，AI Agent的能力和应用场景都发生了变化。如果仅从IT系统的能力角度来看，AI Agent这个概念并不神秘，不过是通过引入大模型为AI Agent带来了更多能力，从而丰富了其功能。

在数字世界中，我们需要利用规划、循环和反思的控制机制，实现任务从开始到结束的全流程控制，并调用数字世界里的外部工具进行执行，这正是IT系统通过引入大模型实现数字化向智能化转变的关键技术：AI Agent。

大语言模型的主要功能是处理和生成文本，核心在于将文本信息进行向量化处理，并通过Transformer架构以及监督学习机制，实现技术上的范式转变。这些技术基础的迭代，再结合大量的数据和强大的算力，促成了ChatGPT等大语言模型的诞生，它们在文本生成和回复方面表现出色。尽管大语言模型在文本领域取得了显著的成就，但本质上只具备基于零样本提示词的文本回复的能力，而不具备执行实际任务的能力。这意味着，无论大模型在文本处理上多么先进，它们仍然需要Agent的介入来实现从文本到行动的转变和全流程的处理。因此，大模型和Agent是两个不同的概念，前者专长于文本交互，而后者则涉及到任务的执行和落地能力。简而言之，大语言模型缺乏将文本回复转化为实际行动的能力，是典型的缸中之脑。

2023年夏天，OpenAI在ChatComplete接口上开发了一项名为"Function Calling"的能力，虽然看起来仍然是文本的输入和输出，但当函数作为一个字符串被输出并被精确调用时，确实看到了Agent的不同之处。以前人们认为创作和创意不确定性是大语言模型最人性化的特征，但同时它们也有机器的一面，能够在有限的范围内唤醒某些函数。这项能力让人们意识到Agent应该被独立考虑，其围绕工具使用、规划和执行的能力，可以帮助大模型结合现实世界中的数字和物理能力，形成一个更完整、更通用的解决方案。OpenAI随后推出了GPTs，并将之前的Plugin作废了，GPTs 已经是一个Agent 的商店。

然而，随着时间的推移，人们发现Function Calling可能并不像最初想象的那么好。它演示的技能是查询天气，虽然可以很好地执行，但许多场景要复杂得多，可能不只有1个或2个函数可供调用，会出现完全不确定的函数，下一步该执行哪个函数也会是未知的，测试过几十个模型号称具有Function Calling能力的模型，目前只有Azure OpenAI/OpenAI和Anthropic 这两个模型族具备稳定的函数调用能力，其他的很多模型都在稳定性和可用性方面存在能力短板。不过，Agent的主流能力，如浏览器的唤起、搜索引擎的查询结果以及一些生成能力的唤起，确实有效地让它从概念走向实际。当然，在实际应用过程中，人们也发现了许多不确定因素，但Agent的能力已经让人感到惊讶，它不仅仅是一个玩具，而可以改变现实世界。

Agent主要依赖于大模型的Function Calling能力，需要准确地识别出当前调用哪个模型来完成当前任务，并提供相应的结果，以便大模型进行下一步操作。而瓶颈可能在于读取上下文的长度，上下文长度决定了能够识别多少个函数。Agent在执行过程中受限于场景，只能在有限的函数中进行选择，其执行也不完全精确；如果执行不精确，就需要获取更多的环境信息或反馈信息来执行函数，过程中可能会出错。Agent是一个精妙但不够鲁棒的系统，如果它返回到上一级并根据错误信息重新执行，可能会带来更大的资源消耗和时间延迟。

在企业场景中实施Agent时，首先需要考虑的是技术的可实现性。在挑选场景的过程中，就要考察技术是否可行；一旦场景确定，接下来需要考虑的是如何提高Function Calling的准确度，如果准确度不够高，需探索其他工程手段来提升API的识别准确率，甚至在语义理解之后通过额外的工程能力进行调整、校验生成的API并通过查询方式进行补充。