小红书引入大模型技术，NoteLLM方案破解推荐难题

小红书引入大模型技术，NoteLLM方案破解推荐难题

7月4日-6日，2024世界人工智能大会在上海举行。小红书技术副总裁王晓博在会上透露，小红书正全面升级其算法推荐系统，通过引入大模型技术，在搜索、推荐、创作等多个环节实现显著改进。

王晓博表示，大模型的引入让AI能够更像人一样理解小红书的内容。在推荐系统中，大模型主要解决了两个核心问题：新笔记分发难和信息茧房。

传统推荐系统依赖用户行为数据进行建模，这导致新内容难以获得足够的曝光机会。小红书通过将大模型作为笔记的语义编码器，使用语义压缩提示词结合对比学习技术，成功提升了新笔记的分发效率。

同时，大语言模型的推理能力能够更好地建模用户兴趣。小红书让大模型从用户历史行为中推理潜在的新兴趣，有效缓解了信息茧房问题，提升了用户留存率。

在技术实现上，小红书提出了NoteLLM方案，这是一个专门针对推荐任务优化的可检索大语言模型。该方案的核心创新在于多任务学习框架：

• 生成式对比学习：通过将笔记内容压缩到一个特殊token中，使用该token生成的向量作为文本表征，并结合协同过滤信号进行对比学习，使生成的embedding更适用于下游推荐任务。

• 协同监督微调：利用笔记标题和内容生成标签和类别的任务，不仅可以直接产出标签信息，还能增强文本表征的质量，因为这两个任务都涉及从笔记中提取关键信息。

在内容创作方面，小红书孵化了InstantID项目，通过人脸ID注入方式实现风格多样化的AI智能创作，用户无需模型训练即可在秒级生成图片。

在社交互动领域，小红书推出了AI宠物、AI群聊等聊天BOT产品。这些产品不仅提供泛娱乐功能，还能通过对话方式为用户提供情感陪伴。小红书通过基于记忆网络、世界体系和驱动飞轮等技术的解决方案，实现了精细化记忆建模，使AI能够更好地理解用户行为，构建个性化互动。

小红书在大模型领域的布局呈现出自研与投资双轮驱动的特点。一方面，公司组建了独立的大模型团队，自主研发通用大模型基座“小地瓜”，并在多模态理解、模型训练和推理框架等方面进行了深入的技术攻关。

另一方面，小红书积极参与大模型创企的投资。2024年2月，公司参与了月之暗面的10亿美元新一轮融资，显示出在AI领域的战略布局野心。

大模型技术的应用为小红书的商业化变现开辟了新路径。例如，AI搜索功能将带有更浓厚的种草性质，成为小红书电商的重要流量入口。同时，小红书推出的“搜索直达”工具，帮助商家在搜索场域中实现用户需求的直接转化。

然而，小红书在AI应用上也保持谨慎态度。公司担心过度AI化可能破坏现有的内容生态，因此在产品设计上注重AI与人类内容的和谐共存，强调“AI为我，而非我为AI”的理念。

随着人工智能技术在多模态、Agent、算力层的持续进步，小红书计划进一步借助大模型的能力，拉近社区链接的距离，更好地赋能用户。王晓博表示，小红书将继续保持技术驱动的传统，通过算法备案的自研“珠玑”大模型，为用户提供更精准、更个性化的服务。

小红书的AI布局体现了其在保持内容社区特色的同时，积极拥抱新技术的战略方向。通过大模型技术的全面升级，小红书正在为用户打造一个更智能、更便捷、更美好的“生活指南”。