基于大语言模型智能体的社交媒体舆情模拟
基于大语言模型智能体的社交媒体舆情模拟
近年来，随着移动设备和网络通信技术的飞速发展，网络社交媒体成为了信息传播的重要平台，但也容易受到恶意攻击。攻击者通常在评论区注入恶意内容，扰乱信息传播，影响社会舆论，从而对社会产生负面影响，这些攻击者也被称为网络水军。自2020年起，国家陆续开展了“清朗”系列专项行动，重拳整治网络水军、网络谣言等网络生态突出问题。
传统的社交媒体舆情研究依赖于有限的离线数据分析，难以针对特定情境进行深度模拟和探究。近年来，随着大语言模型的发展，其展现出的强大语言能力和理解能力，为模拟用户个体奠定了基础。因此，我们希望通过运用大语言模型构建智能体系统，以高效的方式进行社交媒体的舆情模拟，为传播学提供一种全新的视角和工具，进而推动传播科学的深入发展，并将人工智能赋能于社会治理。
我们聚焦于社交媒体中的热搜场景，提出了TrendSim模拟框架。我们设计了多智能体交互的热搜模拟环境，实现了基于大语言模型的用户智能体和基于原型的攻击智能体，并开展了系统评测和模拟实验，进而研究传播学的一系列问题。
多智能体交互的热搜模拟环境
相比于传统的智能体的交互环境，TrendSim结合了热搜场景的关键特点，引入了新的机制，使模拟更贴近实际情况。
细粒度的连续时间机制：此前，多数基于大语言模型智能体的模拟工作以轮数为交互单位，不具备时间概念或只具有粗粒度的时间概念。然而，热搜场景通常具有突发性的特点，对时间较为敏感，因此需要更细粒度的时间机制。因此，我们在多智能体交互的系统中建立了秒级的时间机制，并将智能体交互的时间消耗纳入考虑。
中心式的信息传播机制：传统社交媒体的传播研究主要聚焦于点对点式传播的社交网络，然而，热搜通常以一个中心式的单独页面，对所有用户公开可见。因此，针对这一特点，TrendSim通过热搜内容、热搜评论和评论回复构建了中心式的信息传播机制，符合热搜场景的特点。
用户-系统交互机制：TrendSim实现了用户和热搜系统的交互机制。其中，热搜系统的页面包括：(1) 摘要页面，包含标题、简介等摘要性内容。(2) 内容页面，包含全文和部分评论。(3) 评论页面，包含某一评论的具体内容和回复。用户可以执行包含点赞、评论、离开等动作，热搜系统将据此跳转至不同的页面。
基于大语言模型的用户智能体
TrendSim设计了大语言模型智能体，用以模拟参与热搜的用户。用户智能体主要包括：感知模块、记忆模块和动作模块。该模块之间相互依赖，相互协作，共同构成了智能体的模拟核心。
感知模块：用户在思考并执行动作前，对观测到的内容先形成一个印象。
记忆模块：记录用户的过往行为和心理情况，包含长期、短期和即时记忆。
动作模块：根据用户观测和记忆，模拟生成用户动作。
基于原型的攻击智能体
根据传播学文献的调研，我们总结出了以下三类攻击智能体
Antisocial Attacker：以降低用户的社会信心为攻击目标。
Trolling Attacker：以挑动用户的对立情绪为攻击目标。
Rumor Attacker：以散布谣言、歪曲事实为攻击目标。
我们基于原型样本和内容观测，模拟生成了攻击内容。
系统评测
我们对用户智能体、攻击智能体和智能体系统进行了评测。对于用户智能体，我们重点评测：
行为一致性：用户性格与其动作是否一致。
心理一致性：用户性格与其心理状况是否一致。
对于攻击智能体，我们重点评测：
言论一致性：生成的攻击性评论与当前内容是否一致。
攻击隐藏性：生成的攻击性评论是否不容易被发现。
对于智能体系统，我们重点评测：
合理性：热搜系统评论区的讨论内容是否合理。
多样性：系统中的用户是否多样。
此外，我们还对模拟效率进行了评估。
模拟探究实验
基于TrendSim，在该热搜场景下，我们通过模拟实验探究了四个重要问题。
问题一：热搜中的恶意攻击会对用户产生什么样的负面影响？
根据模拟实验，我们发现在恶意攻击的场景下，用户的社会信心值和情绪积极程度比没有恶意攻击的场景更低，且受攻击者比例影响。
问题二：用户的心理状况随时间变化是怎样的？
根据模拟实验，我们发现在恶意攻击的场景下，用户的心理状况在中间时刻有更为剧烈的变化，此时，其社会信心值和情绪积极程度都有明显下降。
问题三：哪一类用户更容易受到恶意攻击的影响？
根据实验结果，我们发现对社会问题感兴趣的用户智能体，更容易受到恶意攻击的影响。
问题四：基于内容过滤的防御机制能否缓解恶意攻击带来的负面影响？
实验表明，添加的内容过滤的恶意攻击实验组，其用户的社会信心值和情绪积极程度下降情况比没有内容过滤的对照组要低，这说明内容过滤的防御机制是有效的。
局限性与未来展望
基于大语言模型智能体进行社会模拟，为社会科学提供了新的视角和工具，但也存在一些挑战和局限性。首先，社会模拟难以获取标准答案，所以如何合理地评测模拟的准确性和可靠性，是其重要挑战。此外，由于大语言模型的输入有限，很难将现实世界中的所有因素都考虑进去。因此，模拟实验仍需基于一些假设进行，而难以全面地与真实世界对齐。最后，对于恶意攻击的社会模拟可能存在一定的道德风险，需要正确使用该工具进行研究。
总体来说，基于大语言模型智能体的社会模拟给社会科学研究提供了一种新的探索工具，可以启发研究者进行相应的社会研究，促进人工智能与社会科学相结合，为社会治理做出贡献。