站长之家

11月3日 消息:Anthropic创始人Dario Amodei在英国人工智能安全峰会上介绍了该公司提出的负责任扩张政策（Responsible Scaling Policy，RSP）。该政策旨在确保人工智能系统的安全性和可控性，防止潜在的风险和滥用。

RSP包括两个主要组成部分:ASL系统和缩放曲线。

ASL系统是模仿生物安全等级（BSL）系统设计的，每个等级都有一个相应的保障措施。ASL-1代表几乎没有风险的模型，例如下棋的专业人工智能;ASL-2代表目前所处的阶段，模型具有广泛的风险，但尚未表现出真正危险的能力;ASL-3是AI模型在CBRN(化学、生物、放射和核)领域变得具有操作危险的时候;ASL-4代表了灾难性滥用风险的升级，当AI系统接近人类水平的自主能力，或成为至少一个严重的全球安全威胁(如生物武器)的主要来源时，将触发ASL-4。

缩放曲线是用来测试这些危险能力的间隔时间，以确保不会盲目地创造出具有危险能力的模型。随着人工智能系统的规模和能力的提升，保障措施也需要相应地升级。