生成式AI在信息战中的新角色：应用、挑战与应对
生成式AI在信息战中的新角色：应用、挑战与应对
2023年5月，美国陆军第18空降师开始使用Scale AI公司的Donovan系统，这一基于大语言模型的人工智能平台，不仅能够帮助作战人员加速战场态势理解，还能在几分钟内处理超过10万页的实战数据。这一突破性应用标志着生成式AI正式登上现代战争舞台，成为信息战中不可或缺的力量。
生成式AI在信息战中的应用
军事指挥与决策支持
生成式AI在军事领域的应用主要集中在指挥控制和情报分析方面。美国防部认为，大型语言模型等生成式AI技术在情报分析、战场环境支持、通信和网络安全、态势感知和数据融合、军事数据管理、军事建模与作战模拟仿真等军事领域均有巨大应用潜力。
美国陆军和空军在演习中已经利用生成式AI系统大幅缩短了指挥官决策时间，对于解决指挥官决策过程中的关键信息需求发挥了较好的辅助作用。目前已知的是，包括Scale AI公司、帕兰提尔公司和安杜瑞尔工业公司在内的数十家公司都在为五角大楼开发基于人工智能的决策平台，微软公司也已经宣布Azure政府云计算机服务的用户可以访问OpenAI的人工智能模型。
虚假信息生成与传播
生成式AI最令人担忧的应用之一是虚假信息的生成与传播。根据美国新闻可信度评估与研究机构的报告，利用AI代理创建的假新闻网站在7个月内从49个激增至600多个。这些虚假信息不仅包括文字内容，还可以生成高度逼真的图像和视频，即所谓的“深度伪造”内容。
在政治选举和社会议题中，生成式AI被用于制造虚假舆情，影响公众认知。例如，在2024年美国大选期间，就出现了多起利用AI生成的虚假视频和音频试图影响选民的事件。这些虚假内容往往制作精良，难以辨别真伪，给传统媒体和社交媒体平台带来了巨大的核查压力。
舆论引导与心理战
生成式AI在舆论引导和心理战中的应用同样值得关注。通过分析社交媒体数据和网络行为，AI可以精准识别目标受众的特征和行为模式，从而推送定制化内容，影响其认知和决策。这种精准投放能力使得心理战的效果大幅提升，同时也增加了防御难度。
在俄乌冲突和巴以冲突中，双方都利用生成式AI发动心理战，通过传播虚假军事信息、制造恐慌情绪、干扰平民疏散和基本服务获取等手段，严重威胁平民安全与心理健康，破坏社会稳定。
技术发展带来的挑战
伦理争议
生成式AI的发展带来了诸多伦理挑战。在知识产权限制方面，AI训练过程中大量使用现有资料，可能侵犯原作者的版权。例如，OpenAI就曾被指控使用大量未经授权的图书资料训练ChatGPT模型。此外，AI生成的内容是否受版权法保护，目前仍存在法律空白。
隐私保护是另一个重要议题。训练高质量AI模型需要大量数据，这些数据中可能包含个人隐私信息。如果处理不当，容易导致隐私泄露。同时，生成式AI也可能被用于制造虚假信息或进行网络攻击，危及网络安全和社会稳定。
内容审查机制的缺失也是一个重大问题。AI可以快速生成大量内容，但这些内容的准确性和真实性难以保证。错误、虚假、歧视、仇恨等不当内容可能被广泛传播，对社会造成负面影响。
法律监管困境
在法律层面，国际人道法（IHL）对信息作战的约束存在诸多模糊地带。例如，在信息作战的攻击界定、心理伤害认定、间接伤害归因以及责任追溯等方面，现行法律框架难以有效应对。国际刑法在规制部分有害信息作战方面发挥一定作用，但在数字环境下的犯罪认定与管辖权问题上仍面临巨大挑战。
社会影响
生成式AI对民主和社会稳定构成了潜在威胁。虚假信息的泛滥可能导致公众对媒体和政府的信任度下降，影响社会共识的形成。在政治选举中，AI生成的虚假内容可能影响选举结果，损害民主进程。此外，AI还可能被用于社会监控和行为控制，加剧社会分裂和压迫。
应对之道
面对生成式AI带来的挑战，国际社会正在积极寻求解决方案。联合国发布了“全球信息诚信原则”，推动建立更道德的信息生态系统。多国媒体和国际组织也在探索如何应用AI新技术应对虚假信息，例如，英国广播公司与谷歌、微软等科技公司合作，共同创立内容来源和真实性联盟，致力于为数字媒体提供内容真实性标签和历史溯源服务。
在法律层面，各国政府正在加紧制定相关法规。中国国家互联网信息办公室就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，要求网络信息服务提供者按照有关强制性国家标准的要求进行标识。欧盟也在推进《人工智能法案》的立法工作，旨在建立一个统一的AI监管框架。
生成式AI在信息战中的应用是一把双刃剑。它既为军事决策提供了强大支持，也带来了虚假信息泛滥、隐私泄露、法律监管困境等挑战。面对这一技术革新，国际社会需要建立多利益相关方协同合作机制，通过技术创新、法律完善和国际合作，共同应对生成式AI带来的挑战，维护国际和平与安全。