腾讯大语言模型训练新专利：对比学习机制提升模型精准度

腾讯大语言模型训练新专利：对比学习机制提升模型精准度

引用

搜狐

1.

https://m.sohu.com/a/856849232_362225/?pvid=000115_3w_a

腾讯科技（深圳）有限公司在人工智能领域的又一重大突破于近日揭晓，其申请的“大语言模型训练新法及配套设施”专利于2月7日正式对外公布。此专利通过引入一种创新的对比学习机制，在大语言模型训练中巧妙利用多重摘要文本，实现了模型泛化能力与生成准确性的显著提升，为AI语言处理技术开启了新的探索路径。

具体而言，腾讯的新专利创造性地设计了“第一摘要文本”与“第二摘要文本”的概念，两者在信息量和内容构成上均有所不同，其中第一摘要文本还特别包含了正确与错误语句的混合。模型在学习过程中，通过对这两种摘要的对比分析，能够更有效地识别并区分正确与错误的表达方式，同时显著降低了因单一数据源而引发的过拟合风险。这一设计不仅极大地丰富了模型的学习维度，还通过动态调整策略，进一步优化了生成结果的准确性和可靠性。