洛杉矶在燃烧——而人工智能深度伪造正在助长错误信息

CN
Decrypt
关注
1年前

随着消防员继续在洛杉矶各地与野火作斗争,另一个威胁恢复工作的祸害出现了:AI生成的深度伪造。

周三,社交媒体X(前身为Twitter)上开始流传一些图片,显示标志性的好莱坞标志被火焰吞噬,火势在李山肆虐。然而,这些图片完全是使用生成性人工智能工具虚构的。

在好莱坞标志的图片之后,其他虚构的视觉图像也在网上出现,包括关于抢劫的虚假描绘——进一步加剧了混乱。

野火和抢劫的深度伪造是危机期间传播的日益增长的错误信息和阴谋论趋势的一部分。在过去的灾难中也曾看到类似的手法,例如去年九月的海伦飓风,当时骗子传播了在未受风暴影响地区的AI生成的破坏图像。

“这很可能是恶搞,他们觉得这很有趣,”蒂姆·温宁格(圣母大学计算机科学与工程教授)告诉Decrypt。“这也可能是社会或政治上的,比如暗示加利福尼亚应该被烧,批评纽森州长,或对多样性、公平性和包容性在消防中的反应。这些是主要原因,但可能还有其他原因。”

周四,美国当选总统唐纳德·特朗普再次在Truth Social上发帖,针对加利福尼亚州州长加文·纽森及其对该州水资源的处理。特朗普称他为“加文·纽森州长”,此前他曾呼吁政府因其对南加州火灾的处理而辞职

得益于社交媒体的连接性,这些AI生成的图像可以迅速传播。毫无防备的用户,特别是那些对该地区或危机细节不熟悉的人,特别容易相信AI深度伪造是真实的。政府官员缺乏沟通进一步加剧了这一问题,使公众更难区分事实与虚构。

除了在危机期间引发恐慌外,AI深度伪造越来越多地被用于政治操控。去年,当美国东海岸应对米尔顿飓风和海伦飓风的影响时,网上开始出现AI深度伪造的图像,显示在报告中主要居住着特朗普当时支持者的地区遭到破坏,进一步加剧了已经紧张的政治气候。

温宁格强调,错误信息的传播往往源于社会价值观,而非技术限制,并指出通过分享或点赞内容,个人也在支持这些内容。

“社交媒体问题有时是技术或事实核查问题,但大多数情况下是价值观问题,”温宁格说。“作为一个社会,我们并不够重视分享准确、真实的信息。每个社交媒体用户都必须为自己做出这个决定。技术无法为他们做出决定,也没有其他人可以。”

好莱坞标志信托的发言人——一个保护、维护和推广好莱坞标志的非营利组织——向Decrypt确认,该标志实际上是完好无损的。

“格里菲斯公园因预防原因关闭,”他们说。“标志安全无恙,这些虚假谣言没有任何真实性。”

编辑:安德鲁·海沃德

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接