【ITBEAR科技资讯】5月22日消息，据路透社报道，在近日举行的“人工智能(AI)首尔峰会”上，微软、谷歌、OpenAI等全球16家顶尖科技公司联合发表声明，承诺将安全开发AI模型。此次峰会于21日和22日举行，汇聚了众多业内领军企业，其中包括国内备受瞩目的智谱AI(曾获得腾讯、阿里、美团和小米等企业的投资)，以及国际知名企业如IBM、亚马逊、meta和三星。
这些科技巨头在声明中表示，将共同致力于确保AI技术的安全发展。为此，他们发布了一套框架，详细阐述了如何评估其AI模型的风险。该框架旨在确保在开发过程中，各公司能够对其模型的风险进行全面衡量和有效控制。
据ITBEAR科技资讯了解，在这些安全承诺中，各公司还特别强调了在极端风险情况下的应对措施。他们承诺，在风险达到严重且“无法接受”的程度时，如果无法采取有效措施来降低风险，将不得不启动紧急停止机制，暂停相关模型和系统的开发或部署。这一承诺显示了这些科技公司在面对潜在风险时的决心和责任感。
这并不是人工智能企业首次作出类似的安全承诺。去年，亚马逊、谷歌、meta和微软等公司就曾签署过一份由美国政府促成的自愿保障措施协议，旨在确保他们的AI产品在发布时具备足够的安全性。然而，此次首尔峰会上的承诺更为具体和细致，显示了行业对于AI技术安全性的高度关注和持续努力。
对于这一系列安全承诺，“人工智能教父”、著名计算机科学家约书亚·本吉奥表示欢迎。他认为这些自愿承诺是积极的开始，但同时也指出，必须伴随有效的监管措施来确保其真正得到落实。只有这样，人工智能技术的发展才能更好地造福人类，同时降低潜在风险。
