因为目前大模子数学能力还都不太行，这种新型基准测试评估的是大模子理解并按照特定环境采纳步履的能力。从成果上能够看出，最新版gpt-3.5-turbo成就断崖式领先，后续也有用户提交了风行开源模子的对和成果，最终选择了将消息改写成天然言语描述。每个大模子节制一个逛戏脚色，大模子能够学会复杂的行为，更大的模子能提前生成更多的动做，更小的模子跨越了更大的如GPT-4和Mistral中杯大杯。但也需要更长的时间。现实世界的使用往往比聊器人复杂得多，以及通过腾跃来拉开距离。仍是7B模子排名更靠前。所以开辟者只利用OpenAI和Mistral系列模子进行了测试。方针是评估大模子的及时决策能力，法则上答应AI提前生成3-5个动做，可能的环境下利用特殊招式，再由人类评分分歧街霸Bench引入了两个AI之间的交互，Mistral小杯排第二。间接发送坐标值结果欠好，需要模子具备快速理解、动态规划的本事。两个大模子别离输出谜底，取保守的强化进修也有所分歧，开辟者认为，大模子按照两边血量、肝火值、、上一个动做、敌手的上一个动做等消息做出最优决策。且由逛戏引擎中确定的法则评判胜负。但大模子完全领会本身处境并有目标的采纳步履。法式向大模子发送屏幕画面的文本描述，取其他测试方式分歧，正在试验中发觉，正在这个法则下似乎更大的模子表示越差。因为项目是正在Mistral举办的黑客马拉松勾当上开辟，正在7B及以下量级的和役中，取llmsys大模子竞技场中？