当地时间周二（5月21日），微软、亚马逊、OpenAI等科技巨头在“人工智能（AI）首尔峰会”上就AI安全达成了一项具有里程碑意义的国际协议。此次峰会由韩国与英国共同主办，是去年11月在英国召开的全球人工智能安全峰会的后续会议，以“安全、创新、包容”为主题。这项国际协议将让来自全球多国的企业做出自愿承诺，确保他们是以安全的方式开发AI前沿模型。

　　框架将包括针对科技公司的一些被视为无法容忍的“红线”，包括但不限于自动网络攻击和生物武器的威胁。

　　一旦发现了这种极端情况，如果不能保证降低风险，企业们就需要打开“紧急停止开关”（kill switch），叫停AI模型的开发进程。

　　英国首相苏纳克在一份声明中写道：“这还是首次，有如此多来自全球不同地区的领先AI公司都同意在人工智能安全方面做出同样的承诺。这些承诺将确保全球领先的AI公司，让他们的AI计划提供透明度和问责制。”

　　去年11月，在英国AI安全峰会上，与会方签署了一份《布莱奇利宣言》（BKaiyun体育官方网站 开云登录网站letchley Declaration），称各方需要共同努力，设定共同的监管方法。