我们认为,解决 AI 安全问题的实用方法是投入更多时间和资源来研究有效的缓解和对齐技术,并测试它们在现实世界中的滥用情况。
重要的是,我们还认为,提高人工智能的安全性和能力应该齐头并进。迄今为止,我们最好的安全工作来自于我们最强大的模型,因为它们更善于遵循用户的指示,更容易操纵或“引导”。
我们将越来越谨慎地创建和部署功能更强大的模型,并将随着我们的人工智能系统的发展继续加强安全预防措施。
虽然我们等了 6 个多月才部署 GPT-4 以更好地了解其功能、优势和风险,但有时可能需要比这更长的时间来提高 AI 系统的安全性。因此,政策制定者和 AI 供应商需要确保 AI 的开发和部署在全球范围内得到有效管理,这样就没有人会为了取得成功而偷工减料。这是一项艰巨的挑战,需要技术和制度创新,但我们渴望为之做出贡献。
解决安全问题还需要广泛的辩论、实验和参与,包括人工智能系统行为的界限。
我们已经并将继续促进利益相关者之间的合作和公开对话,以创建一个安全的人工智能生态系统。
暂无评论