小红书接棒TikTok，内容风控挑战升级

小红书接棒TikTok，内容风控挑战升级

1月15日，小红书在美国App Store免费应用榜单上登顶，这背后是TikTok封禁令即将生效带来的用户大迁移。然而，这份突如其来的“泼天富贵”却让小红书喜忧参半。

根据Sensor Tower数据显示，小红书在美国的移动应用下载量在过去七天内较此前增长超过20倍，较2024年同期增长超过30倍。自本月初以来，小红书在美国的应用总下载量占比已攀升至超过五分之一，具体数字为22%，而在2024年同期，这一比例仅为2%。

然而，机遇与挑战总是相伴而生。大量美国用户的涌入带来了前所未有的内容风控压力。据统计，“#tiktokrefugee”（TikTok难民）这个标签的话题浏览量已经暴涨到2.2亿，491.5万讨论，笔记23万条。这些用户不仅带来了海量的内容，也带来了巨大的审核压力。

1. 政策合规风险：根据《网络信息内容生态治理规定》，平台需要对涉政、违禁、暴恐、色情等四类内容进行严格管控。一旦触及政策红线，轻则约谈，重则下架、封禁。

2. 社区氛围风险：文化差异可能导致社区氛围的冲突。例如，美国用户习惯的表达方式可能与中国用户不同，需要建立跨文化的社区规范。

3. 用户安全风险：需要防范导流、灰产、诈骗等不法行为。互联网发展至今，导流、诈骗等行为往往是成熟的灰黑产产业链所为，他们拥有丰富的反监查和防过滤经验，揪出他们并进行处理，需要平台与其斗智斗勇。

面对巨大的内容审核压力，小红书正在积极寻求技术解决方案。目前，平台已经启动了AI内容审核系统的研发，计划通过机器学习技术提升审核效率和准确性。

AI内容审核系统将采用多模态识别技术，对文本、图片、视频进行全面审核。例如，对于一个视频稿件的审核，就需要对整个视频进行逐一拆帧，然后通过OCR文字识别检查字幕，此时对于字幕的检查和文字内容的检查基本一致，文字识别涉及到NLP分词、语义理解等AI技术；对于画面，则是图片识别，识别图片中可能出现的违禁内容，这里涉及到一个准确率的问题，暴恐视频不能够通过，但游戏视频也存在战斗画面，如何保证不误伤；对于音频，则需要两个方面的审查，一方面是视频的背景音，另一方面是人声，需要通过ASR语音识别技术，将音频转化为文字，再进行内容审核。

同时，小红书也在积极招募英文内容审核员，以建立人机协同的审核机制。这种混合审核模式可以充分发挥AI的效率优势和人工的灵活性，确保内容审核的准确性和公平性。

此次TikTok用户的大规模迁移，为小红书的国际化战略提供了难得的机遇。然而，机遇背后也隐藏着巨大的风险。小红书需要在保持社区特色的同时，兼顾国际用户的使用习惯和文化差异。

从长期来看，小红书需要建立一套完善的国际化运营体系，包括多语言支持、跨文化内容管理、全球合规性审查等。这不仅是一次技术升级，更是一次战略转型。

TikTok封禁带来的用户迁移，对小红书来说既是一次机遇，也是一次考验。通过AI技术提升内容审核效率，建立跨文化的社区规范，小红书有望在国际市场上开辟新的发展空间。然而，这一过程也充满了不确定性，如何平衡内容多样性与社区氛围，如何在遵守各国法规的同时保持平台特色，将是小红书未来需要持续面对的挑战。