这周，OpenAI 和 Meta 都披露了与中国、以色列、俄罗斯和伊朗有关的行为者持续恶意活动的细节，它们确定这些行为者利用各自的服务传播虚假信息并干扰美国和其他国家的政治。
Meta 在周三发布的最新季度威胁报告中强调，生成式人工智能在此类活动中仍然很容易被检测到。
“到目前为止，我们还没有看到会妨碍我们打击背后对手网络的新型 GenAI 驱动战术，”这家社交媒体巨头表示。
虽然 AI 生成的照片被广泛使用，Meta 补充说政治 deepfake——根据许多专家的说法是一个重大全球威胁——并不常见。“我们还没有看到威胁行为者在这个时候广泛使用政治家的逼真 AI 生成媒体的趋势，”报告指出。
OpenAI 表示，它在其 AI 模型中构建了防御措施，与合作伙伴合作分享威胁情报，并利用自己的 AI 技术来检测和打击恶意活动。
“我们的模型旨在对威胁行为者施加摩擦，”该公司昨天报道。“我们设计它们时就考虑了防御。”
OpenAI 指出，其内容保护措施在一些请求上被证明是成功的，其模型拒绝生成某些请求。该公司表示已禁止与确定的活动相关联的账户，并与行业伙伴和执法部门分享相关细节，以促进进一步的调查。
OpenAI 描述隐蔽影响行动为“欺骗性尝试，旨在操纵公众舆论或影响政治结果，而不透露背后行为者的真实身份或意图。”其最新披露被描述为 OpenAI 透明度努力的一部分。
该公司利用从这些活动中收集的信息进行更深入的挖掘，评估虚假信息活动的影响力，并对它们的技术进行分类，以改进未来的对策。OpenAI 表示，在 1 到 6 的评分中，最高分代表在多个平台上达到真实受众的活动，而被确定的行为者没有得分高于 2。
根据OpenAI的说法，至少有五个不同的活动利用其模型生成文本内容，然后在Telegram、Twitter、Instagram、Facebook和在线论坛以及其他网站上进行传播。与此同时，Meta还报告了人工智能生成的内容，以及其他被标记为“协调不真实行为”的群体。
以下是两家公司指出的一些具体活动。
俄罗斯威胁
一个名为“Bad Grammar”的俄罗斯活动利用OpenAI的系统生成了多种语言的评论，这些评论被发布在Telegram上，针对俄罗斯、乌克兰、美国、摩尔多瓦和波罗的海国家的受众。评论涉及俄罗斯入侵乌克兰、政治和时事等话题。
“该网络主要在少数几个Telegram频道的帖子下发表评论，”OpenAI表示。“被提及最多的是亲俄频道@Slavyangrad，其次是英语频道@police_frequency和@SGTNewsNetwork。”
另一个持续存在的俄罗斯行动名为“Doppelganger”，利用ChatGPT生成网站文章、社交媒体帖子和评论，大多数内容都将俄罗斯描绘为正面形象，同时贬低乌克兰、美国和北约。这些内容旨在增加跨平台（如9GAG）的参与度和生产力。
Doppelganger还试图利用OpenAI工具创建带有批评西方政府字幕的人工图像，但公司表示其系统拒绝了看起来是虚假信息宣传的请求。
Meta在其对手威胁报告中也提到了该组织，重点关注其试图通过各种话题渗透Meta的社交媒体平台。Meta指出，挑战在于该组织经常改变策略，随着时间的推移不断发展。
来自以色列的虚假信息
以色列的一家名为STOIC的私人公司启动了一个名为“Zero Zeno”的行动，OpenAI称其利用其AI模型生成评论。Zero Zeno将这些评论纳入更广泛的虚假信息策略，针对欧洲和北美。
“Zero Zeno在Instagram和X上发布了特定主题的短文，尤其是加沙冲突，这些文本是使用我们的模型生成的，”OpenAI透露。“这些平台上的另一组账户会回复这些评论，这些回复也是由这个行动生成的。”
“OpenAI在二月份的开源研究中描述了这个网络批评巴勒斯坦的联合国救济机构，”报告指出，并链接到了更详尽的报告。
Zero Zeno也利用了OpenAI技术来创建虚假简介并参与虚假互动。OpenAI还透露，这家以色列公司利用其技术针对“以色列的Histadrut工会组织和印度选举”。
这个组织也被Meta标记。
“这个网络的账户冒充了他们所针对国家的当地人，包括犹太学生、非裔美国人和‘关心’公民，”Meta表示，“他们主要用英语发帖，讨论以色列哈马斯战争，包括呼吁释放人质；赞扬以色列的军事行动；批评校园反犹太主义、联合国救济和工程机构（UNRWA）以及声称‘激进伊斯兰教’对加拿大自由价值构成威胁的穆斯林。”
Meta表示已禁止了该组织，并向STOIC发出了停止和解除信函。
中国的“Spamouflage”活动
中国的“Spamouflage”活动利用OpenAI的语言模型进行任务，如调试代码和生成各种语言的评论，以假装开发生产力软件的名义传播叙事。
“Spamouflage在X上发布了批评中国异见人士蔡霞的短评，以初始帖子和一系列回复的形式，”OpenAI表示。“‘对话’中的每条评论都是使用我们的模型人工生成的，可能是为了制造真实人参与该操作内容的假象。”
然而，在反乌克兰活动中，通过OpenAI在9GAG上生成的评论和帖子似乎引起了用户极为负面的反应和批评，他们谴责这种活动是虚假和不真实的。
Meta还发现了另一个与中国有关的人工智能虚假信息活动。“他们主要用英语和印地语发布新闻和时事内容，包括可能是通过照片编辑工具操纵或由人工智能生成的图像。”
该网络用户发表了关于印度政府的负面评论，例如，还涉及了锡克社区、卡利斯坦运动和哈迪普·辛格·尼加的暗杀等类似话题。
伊朗行动
一个长期存在的伊朗行动，被称为国际虚拟媒体联盟（IUVM），被发现滥用OpenAI的文本生成能力，创建支持亲伊朗、反美国和反以色列观点和叙事的多语言帖子和图像。
“这次活动针对全球受众，重点是用英语和法语生成内容——它使用我们的模型来生成和校对文章、标题和网站标签，”OpenAI表示。随后这些内容将作为更广泛的虚假信息活动的一部分在亲伊朗网站和社交媒体上发布和推广。
Meta和OpenAI均未回应Decrypt的置评请求。
免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。
