为了使人工智能工具的开发更加民主化，Claude AI的创始人Anthropic与非营利性组织Collective Intelligence Project合作，探索AI开发的不同途径，并对1,000名美国人进行调查，起草人工智能宪法。

“人工智能将对世界产生深远影响，”Collective Intelligence Project联合创始人Divya Siddarth告诉Decrypt。“然而，决定其具体形态的人却寥寥无几。我们希望建立流程，使这种情况不再成立。”

由政治经济学家和社会技术专家Siddarth以及研究员、作家和工程师Saffron Huang于一月发起的Collective Intelligence Project旨在促进集体智慧以实现集体进步。三月，CIP与Anthropic合作推出了Collective Constitutional AI倡议，旨在开发一个通过外部输入设计的人工智能模型，并探索民主流程如何影响人工智能的发展。

“我们希望整合民主领域和集体智慧领域的一些工作，探讨为谁做出良好决策以及谁参与其中的意义，”Siddarth说。“在这方面有很多关于变革性技术，特别是人工智能的研究，而这正是我们一直在从事的工作。”

Anthropic在一篇博文中表示，该项目要求1,000名美国公民帮助人工智能开发者选择其AI聊天机器人的规则。Anthropic表示，样本规模旨在代表美国成年人的年龄、性别、收入和地理位置。参与者可以从AI的规则列表中进行选择，也可以提出自己的规则。

Anthropic并未立即回应Decrypt的置评请求。

据Anthropic称，参与者贡献了1,117个声明。他们就AI是否应该在种族或性取向上进行歧视等问题进行了超过38,000次投票，并表示虽然存在不同意见，但大多数声明都有很高的共识度。

尽管该调查试图收集多样化的样本规模，Siddarth承认未来的实验必须超越精通科技和富裕的美国人。

“这只是美国的人，显然在全球范围内极为受限，”她说。“如果有的话，像许多正在开发技术的人一样，可能与美国人以及其他许多地方的人有更多的价值重叠。”

Siddarth表示，Collective Intelligence Project还与竞争对手OpenAI合作进行了其他民主人工智能项目。AI宪法项目仅使用了Anthropic的Claude AI模型。

“我认为这是一个很好的比较，因为我们采用了[Anthropic]已经在Anthropic研究人员撰写的宪法上训练过的模型，并直接将其与相同的模型进行比较，”Siddarth说。“但是使用了公众撰写的宪法。”

Siddarth表示，在实验中一个令人惊讶的发现是，有几个声明也表示AI模型不应基于残疾进行歧视。这些内容并未包含在Anthropic的宪法中。

“我不认为他们有意排除这些内容，”她说。“这只是他们最终没有突出强调的内容。”

Anthropic成立于2021年，是众多开发者中竞相将更快、更先进的人工智能引入市场的一员。微软、谷歌、Meta和亚马逊已向生成式人工智能开发者投资了数十亿美元。因此，2023年对人工智能开发者来说是一个利润丰厚的一年：今年2月，谷歌宣布向Anthropic投资了4亿美元。这项投资之后，亚马逊于9月向Anthropic投资了40亿美元。

今年早些时候，Anthropic与OpenAI、谷歌和微软一起承诺在与拜登政府会面后，致力于负责任地开发人工智能。其他加入承诺的公司包括亚马逊、Meta和Inflection。9月，NVIDIA、Scale AI、Cohere、Adobe、IBM、Palantir、Salesforce和Stability AI也加入了承诺。

尽管宪法人工智能实验存在局限性，Siddarth对Collective Intelligence Project的未来、人工智能民主以及将更多公众意见纳入新兴技术开发持乐观态度。

“我认为核心是让我们做更多这样的流程；让我们从我们已经做过的事情中学习，”她说。“我们正在与民间社会团体、不同的政策制定者以及所有这些不同的公司合作来完成这项工作。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。