社交媒体平台BlueSky的新用户激增也带来了“有害内容”的增加，导致该平台于周一发起了一场大规模的内容审核活动，以清除网络上的图像。

“我们正在经历用户的大量涌入，随之而来的是网络上有害内容的可预测增加，”BlueSky的安全账户表示。“因此，对于一些非常高严重性的政策领域，如儿童安全，我们最近做出了一些短期的审核选择，以优先考虑召回而非精确性。”

在本月早些时候，候任总统唐纳德·特朗普获胜后，数百万用户放弃了X（前身为Twitter），寻求替代平台。

许多人迁移到其他社交媒体平台，过去三周内，有3500万用户加入了Meta的Threads，还有2000万用户涌向了BlueSky——由前Twitter首席执行官杰克·多尔西推出的去中心化社交媒体平台。

新用户的涌入使得在南美国家一名法官于九月禁止X后，已有超过100万巴西用户涌入 BlueSky。

在十月，BlueSky在X的拥有者埃隆·马斯克表示推文可以用于训练Grok AI后，看到另一个激增。

然而，随着新用户的增加，本月早些时候，BlueSky报告了垃圾邮件、诈骗和“恶搞活动”的激增，以及儿童性虐待材料的令人担忧的增加。

根据科技网站Platformer的一份报告，在2023年，BlueSky确认在网络上发布了两起儿童导向的性内容案例。到周一，确认的案例已增至八起。

“在过去24小时内，我们收到了超过42,000份报告（创下单日最高记录）。我们每小时收到约3,000份报告。为了提供背景，2023年全年我们收到了360,000份报告，”BlueSky表示。

BlueSky表示，其大规模审核可能导致了“过度执行”和账户暂停。一些被错误暂停的账户已被恢复，而其他账户仍可提出上诉。

“随着我们的发展，我们正在扩大审核团队，以提高审核行动的及时性和准确性，”公司表示。

为了遏制平台上的AI生成深度伪造内容，BlueSky于一月与位于洛杉矶的互联网监督组织Thorn合作。

BlueSky部署了Thorn的AI驱动的Safer审核技术，该技术可以检测儿童导向的性内容，并识别暗示儿童剥削的基于文本的对话。

虽然X允许成人内容，但在五月，该社交媒体平台表示也已实施Thorn的Safer技术，以打击网站上的儿童性虐待材料。

“我们从我们的测试中学到了很多，”Thorn的数据科学副总裁Rebecca Portnoff当时告诉Decrypt。

“虽然我们在开始时就知道儿童性虐待以各种类型的内容表现出来，包括文本，但我们在这次测试中具体看到了机器学习/AI在文本方面如何在大规模上产生实际影响，”她说。

编辑：Sebastian Sinclair和Josh Quittner

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。