打响反AI的前两枪：马斯克等人呼吁暂停AI试验，英国政府发布AI监管白皮书
编者按：随着 OpenAI 为 ChatGPT 设立了“插件”市场，AI 的渗透速度似乎到了失控的地步。但是鉴于 AI 具备了连创建者都不了解的涌现能力，业界的有识之士开始担心起人类的生存危机。近日，包括马斯克在内的上千名人工智能专家、支持者联合发起呼吁，暂停巨型 AI 的研究至少 6 个月，以免情况不可收拾。但相比之下，英国新公布的监管指导政策就显得有些隔靴搔痒了。文章来自编译。
有超过 1000 名人工智能专家、研究人员以及支持者联合呼吁，要求立即暂停建立“巨型”人工智能的行动至少六个月，以便让 GPT-4 等系统的能力和风险可以获得适当的研究以及控制。
这番要求以一封由主要 AI 玩家联合署名的公开信的形式做出：其中包括OpenAI （开发出ChatGPT和 GPT-4 的研究实验室）联合创始人（编者注：Sam Altman，后来名字又去掉了）；总部位于伦敦的 Stability AI 创始人 Emad Mostaque ；以及苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）。
(相关资料图)
其他签名者还包括来自亚马逊、DeepMind、谷歌、Meta 以及微软的工程师，以及包括认知科学家 Gary Marcus 在内的学者。
公开信表示：“最近几个月，人工智能实验室陷入到了一场已经失控的竞赛之中，大家竞相开发和部署更强大的数字大脑，没有人，甚至包括其创造者在内，能够理解、预测或可靠地控制它。”
“只有当我们确信其影响是积极的并且风险是可控的时候，才应该开发这些强大的人工智能系统。”
在“长期主义者”智囊团“未来生命研究所”（Future of Life Institute）的协调下，公开信的作者们援引了 OpenAI 自己的联合创始人 Sam Altman 的话来证明他们的呼吁是正确的。
在今年 2 月份的一篇帖子里，Altman 写道：“到了一定时候，在开始训练未来系统之前对其进行独立审查可能会变得非常重要，而对于创建新模型所用算力的增长速度，也应该有所限制。”
公开信继续道：“我们对此表示同意。现在就是那一刻。”
公开信说，如果研究人员自己不愿暂停比 GPT-4（这封信中“巨型”模型的基准）还要强大的 AI 模型的工作，那么“政府应该介入”。
公开信补充道：“这并不意味着把整个 AI 开发的工作暂停掉，而是要从这场做出越来越大、不可预测、具有涌现能力的黑箱模型的危险竞赛中倒退一步。”
自 GPT-4 发布以来，OpenAI 一直在通过“插件”为该人工智能系统增加能力，现在这个 AI 已经可以在开放网络上查找数据、安排假期，甚至订购百货了。但该公司必须应对“能力过剩”（ capability overhang）问题：发布的时候其自有系统比它所了解的还要强大。
随着研究人员在未来几周和几个月内不断对 GPT-4 进行试验，他们可能会找出给系统发送提示来提高其解决难题能力的新方法。
最近的一项发现是，如果先告诉人工智能“以知识渊博的专家风格”来回答问题的话，它在回答问题的时候准确度就会明显高很多。
要求严格监管的呼吁与本周三英国政府发布的首份 AI 监管白皮书形成了鲜明对比。这份白皮书对 AI 的新能力根本毫无管制。
相反，英国政府表示，重点是协调现有的监管机构，比如英国竞争与市场管理局（Competition and Markets Authority）以及英国健康与安全执行机构（Health and Safety Executive），白皮书提出了思考 AI 的五项“原则”。（分别是：安全性、可靠性和稳健性；透明度和可解释性；公平性；问责制和治理；可竞争性和补救性）
英国科学、创新和技术大臣米歇尔·多尼兰 (Michelle Donelan)表示：“我们的新方案建立在强有力的原则基础之上，以便大家可以放心地让企业运用这种未来技术。”
艾达·洛夫莱斯研究所（Ada Lovelace Institute）是这份白皮书的批评者之一。该研究所负责数据和人工智能法律与政策的 Michael Birtwistle 说：“英国的做法与如今 AI 的发展之间存在重大差距，可能导致危害得不到解决，而且相对于人工智能挑战的紧迫性与规模而言，其监管力度太弱。”
“政府制定的实施时间表需要一年或更长时间，这会导致风险得不到缓解，因为从搜索引擎到办公套件，人工智能系统正迅速融入我们的日常生活。”
工党也加入了批评行列，影子文化大臣露西·鲍威尔（Lucy Powell）指责政府“辜负了他们的承诺”。
她说：“这项管制措施需要数月甚至数年才能生效。与此同时，ChatGPT、谷歌的 Bard 以及许多其他公司正在让 AI 变成我们日常生活的一部分。”
“政府有可能会强化我们现有监管体系存在的缺陷，并令该体系对于企业和公民来说显得非常复杂，与此同时，这项即将出台的数据法案还会动摇监管的基础。”
译者：boxi。
标签：
