IDC发布政务大模型能力堆栈及技术评估报告
IDC发布政务大模型能力堆栈及技术评估报告
北京，2024年10月21日 ——国际数据公司（IDC）已于近日发布了《中国政务大模型及应用技术评估，2024》（DOC# CHC50977924，2024年10月）报告。针对政务大模型平台技术及支撑的政务场景解决方案，通过对国内政府行业技术提供商的技术评估以及对大量最终用户的客观访谈，重点评估技术提供商产品和解决方案在业务、技术、服务三大领域的能力，来帮助市场更加全面地了解中国政务大模型及应用市场的发展情况以及未来的技术发展趋势。
IDC在调研中发现，政务大模型在应用中的落地远高于市场预期。部分政府在政务服务网站、政务服务APP中集成了政务服务助手帮助市民进行政策咨询、事项办理，如黑龙江政府服务网、赣服通APP等；在政务协同办公平台集成公文助手、自动会议纪要等实现办文、办事、办会的智能化，如福田政务大模型项目等。当然，部分大模型应用还是以独立方式进行公文生成、政策查询、数据检索等，后续需深入集成应用业务中进行赋能升级，契合政务服务及政务办公更高层的需求。
IDC政务大模型能力堆栈
政务大模型的发展对供应商提出很高的能力要求，包括模型平台、模型能力，以及智能体搭建和服务生态建设等。在与厂商广泛的沟通交流基础上，IDC发布政务大模型及应用能力堆栈，参与政务大模型建设的供应商应逐步构建如下能力：
在与业务强相关的模型能力和智能体方面，需要构建以下能力：
模型能力
可以归纳为生成、总结、判断、提取、推理、转换等等，涵盖文本、数据库、图像、音频和视频等多种模态数据。具体到每一类能力，又需要构建多个模型组件。例如：
- 生成：文本生成、对话生成、文生图、文生视频、代码生成等
- 总结：上下文理解、会话总结、文本摘要、会议总结等
- 判别：情绪识别、意图识别、文本校对、舆情分析、图文理解等
- 提取：内容抽取、标签生成、事件识别、实体抽取、图像识别等
- 推理：预测分析、内容推荐、逻辑推理、智能流转等
- 转换：语音转文字、文字转语音、NL2SQL、NL2Code、知识中心等
政务智能体
基于模型组件构建政务智能体，主要覆盖的场景包括一网通办、一网统管、一网协同等，普遍构建的智能体包括：
- 一网通办：政策查询、导办助手、数字人、智能问答、坐席助手、智能推荐等
- 一网统管：事件识别、智能分拨、工单自动填报、交通预测、智能问数、审批助手等
- 一网协同：智能公文、智能办会、智能检索、智能比对、智能流转等
发展建议
对参与政务大模型及应用的技术提供商，IDC提出如下发展建议：
提高模型准确性：利用更高质量的数据集来训练模型，减少数据偏差；采用技术手段如损失函数调整提高训练过程透明度；对问询问题，综合政务知识图谱、FAQ、政务知识库给出更加准确的回答。
降低部署成本：大模型压缩技术的应用已经极大的提供了模型的推理效率，部分厂商由单卡支持2—3条并发，提升到支撑数十条并发。但是随着大模型应用接受度的提高，对算力的需求会有指数级的增长，算力将成为主要的成本。政务大模型厂商应继续减少模型大小、优化推理框架，降低资源成本。
推动技术与场景深度融合：发展细分领域模型，满足特定行业场景的需求，丰富可上架的智能体，与先进省市进行大模型建设模式探索，广泛进行大模型的试点，从而进行全国推广。
结语
当前，随着政务领域大模型的快速发展，其在政务服务、城市管理和政府办公等方面的应用日益广泛，显著提升了治理效能和服务质量。这得益于政策的支持以及企业的积极参与，促进了技术在政务领域的深入应用。然而，随之而来的一系列挑战也不容忽视，包括数据安全与个人隐私保护、内容的准确性保证、统一的技术标准与规范，以及高昂的计算资源成本等问题。为了确保政务大模型能够健康且可持续地发展，有必要采取措施来强化数据安全保障机制，提高算法的透明性和可解释性，建立并推行统一的标准和规范，进一步促进技术与实际应用场景的紧密结合，并优化计算资源的分配与利用。通过这些努力，可以更好地发挥大模型在政务中的积极作用。
本文原文来自IDC