10万美元AI竞赛：寻找大模型做得“更烂”的任务

本次竞赛旨在寻找逆缩放任务，尤其是那些对安全和负责任地使用语言模型很重要的任务。我们希望提交的任务能够让我们更多地了解哪些类型的任务表现出逆缩放；逆缩放任务还将突出当前语言模型预训练和缩放范式的潜在问题。逆缩放任务很重要，因为它们代表了我们希望语言模型展示的行为与我们在实践中从训练目标和使用的数据中获得的行为之间的不匹配。随着语言模型不断变大并在更多现实世界的应用程序中使用，重要的是它们不会变得越来越糟或以尚未被发现的方式伤害用户。

 

主办者：Ethan Perez，AnthropicAI研究员