本周，科技界两位最具影响力的声音提出了对人工智能发展的截然不同的愿景，突显了创新与安全之间日益增长的紧张关系。

首席执行官萨姆·阿尔特曼在周日晚上发布的一篇博客文章中透露，OpenAI的用户基础已增加三倍，超过3亿每周活跃用户，正在朝着人工通用智能（AGI）迈进。

阿尔特曼表示：“我们现在有信心知道如何构建我们传统理解的AGI。”他声称，到2025年，人工智能代理可以“加入劳动力”，并“实质性地改变公司的产出”。

阿尔特曼表示，OpenAI不仅仅是朝着人工智能代理和AGI发展，公司的目标是开始研究“真正意义上的超智能”。

AGI或超智能的交付时间框架尚不清楚。OpenAI没有立即回应评论请求。

但在周日早些时候，以太坊共同创始人维塔利克·布特林提议利用区块链技术为先进的人工智能系统创建全球安全机制，包括一种“软暂停”能力，可以在出现警告信号时暂时限制工业规模的人工智能操作。

基于加密的人工智能安全

布特林在这里谈到“d/acc”或去中心化/防御性加速。从最简单的意义上讲，d/acc是e/acc（有效加速）的变体，后者是由硅谷知名人物如a16z的马克·安德森倡导的哲学运动。

布特林的d/acc也支持技术进步，但优先考虑增强安全性和人类自主权的发展。与采取“无论代价如何增长”方法的有效加速主义（e/acc）不同，d/acc首先关注构建防御能力。

布特林写道：“d/acc是加密技术（去中心化、抗审查、开放全球经济和社会）基本价值观向其他技术领域的延伸。”

回顾过去一年d/acc的进展，布特林写道，如何通过现有的加密机制（如零知识证明）实施对AGI和超智能系统的更谨慎的态度。

根据布特林的提议，主要的人工智能计算机需要每周获得三个国际组织的批准才能继续运行。

布特林解释道：“签名将是设备无关的（如果需要，我们甚至可以要求零知识证明它们是在区块链上发布的），因此这将是全有或全无：没有实际方法可以授权一个设备继续运行而不授权所有其他设备。”

该系统将像一个主开关，所有获批的计算机要么同时运行，要么都不运行——防止任何人进行选择性执行。

布特林指出：“在这样的关键时刻发生之前，仅仅具备软暂停的能力对开发者造成的伤害很小。”他将该系统描述为对灾难场景的一种保险。

无论如何，OpenAI在2023年的爆炸性增长——在短短两年内从1亿增加到3亿每周用户——显示了人工智能采用的快速进展。

从一个独立的研究实验室发展为一家大型科技公司，阿尔特曼承认围绕这一新技术“几乎从零开始构建整个公司”的挑战。

这些提议反映了行业内关于管理人工智能发展的更广泛辩论。支持者此前曾辩称，实施任何全球控制系统将需要主要人工智能开发者、政府和加密行业之间前所未有的合作。

布特林写道：“一年的‘战时模式’很容易相当于在自满条件下工作一百年的成果。”他说：“如果我们必须限制人们，似乎更好的是在平等的基础上限制每个人，并努力合作组织，而不是一方试图主导其他人。”

编辑：塞巴斯蒂安·辛克莱

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。