《评测之道：“最聪明”国产大模型的挑战与荣耀——讯飞星火认知大模型V2.0》

在国内的“千模大战”中，哪个大模型最聪明的问题，近期得到了《麻省理工科技评论》的解答。他们发布了一篇最新的评测报告，揭示了答案。

根据报告，在涉及600道题目的一级大类测试及盲评过程中，讯飞星火认知大模型V2.0在6个一级大类中表现最为出色，其得分为81.5分（以百分制计算），成为本次评测中的佼佼者，因此荣获了“最聪明”的国产大模型之称。

图：大模型评测综合得分率

图：4个大模型各项能力雷达图

《麻省理工科技评论》对中国各大研发和商业化能力、外部评价以及发展前景进行了全面评估，以期评选出“最聪明的”国产大型语言模型。为了公正公平地衡量，本文选择了“讯飞星火”、“百度文心一言”、“商汤商量”和“阿里通义千问”这四个具有代表性的中文大模型平台进行深入评测，并对其进行了详尽而严谨的分析。

在本次评测中，我们的测试集涵盖了丰富的领域，包括语言能力、数学能力、理科综合、文科综合、逻辑思维、编程技能以及综合知识，以确保全面评估参与者的各项能力。这个测试集共有600道题目，分为8个一级大类，126个二级分类，以及290个三级标签。为了保证评测的公平性和严谨性，我们对题目的丰富性和多样性进行了精心优化，使得评测结果能够更加准确地反映出被评测者的实际能力水平。

在题目类型方面，我们精心设计了四种考核方式，即“单选题”、“多选题”、“填空题”以及“简答题”，各有145道、138道、136道和181道，旨在全面覆盖知识点的考察。此外，我们的大型模型评测体系采用了盲评的方式，通过客观评估，公正地衡量了我国大型模型的智能水平。

语言专项评测是基于大模型基础能力构建的一种评估方式，其涵盖了对话理解、多语种、讽刺、古诗词理解、文本生成、要点总结、情感分析和语义判断等六个主要方面，共有61个二级分类，以简答为主要题型。根据最新数据显示，讯飞星火的得分为85.73%，显著高于平均水平，显示出其在语言专项评测中的优越表现。

图：语言专项评测得分率

作为一位专业的文章写作高手，我会将原文进行重新组织，使其表达更为准确且具有专业性。在这篇文章中，我们将探讨数学专项评测在“最聪明”大模型中的重要性，它作为一个关键的评估标准，为模型的优化提供了有力的支持。本次评测涵盖了代数、几何、解方程、复杂数学、统计学等9个二级分类，主要采用选择题的形式进行。通过这些评测内容，我们可以全面了解模型的性能和能力，从而为其未来的发展和改进提供依据。

在众多测试数据中，讯飞星火的得分率以77.75%的高分位列榜首，这一表现远超平均水平的56%，显示出其在学术竞赛中的卓越实力。值得注意的是，在大模型的普遍“数学能力较弱”的情况下，讯飞星火能够取得这样的成绩实属难得。进一步观察会发现，其在数学专项上的优势不仅在二级分类的评分结果中体现得淋漓尽致，更是在77.8%的二级分类中独占鳌头，远远超过其他竞争对手。因此，我们可以初步推测，讯飞星火在几何与情景应用方面的表现尤为突出。

图：数学专项评测得分率

作为体现大模型“聪明程度”不可或缺的“硬核”部分，理科综合评测包含表格问答、化学、生物、物理、医学 5 个二级分类，题型上以单选和简答为主。

评测结果中，讯飞星火 78.50% 的得分率排名第一。另外，讯飞星火在理科综合大类下 80% 的二级分类评测中得分率为第一，化学与生物较为突出。

图：理科综合评测得分率

逻辑思维也是“最聪明”大模型的重要体现，本次逻辑思维评测在逻辑推理、思维链等方面设计了较多的题目，包含类比、常识推理、空间方位、演绎推理、逻辑谬误检测、因果推理等 19 个二级分类，题型上相对平均，其中填空题最多，多选题最少。

在逻辑思维题目中，讯飞星火 81.25%的得分率名列第一，明显高于 72.6% 的平均值。此外，讯飞星火在逻辑思维 63.2% 的二级分类问题上得分率第一。逻辑思维对于大模型真正理解物理世界相当重要。

图：逻辑思维评测得分率

编程能力是大模型比较高阶的能力，本次的编程能力评测包含 ASCII、ASCII码识别、Python、代码、代码修正、计算机 6 个二级分类，其中 Python 主要以简答形式评估大模型的代码生成能力和正确率，其他则以客观题的形式考察。

结果显示，讯飞星火 80% 的得分率明显高于 71%的平均值，其他平台得分率基本相当。值得一提的是，在许多人关心的生成代码的简答题单项上，讯飞星火的得分率高达 82%，远高于其他平台，表现颇为亮眼。

图：编程能力评测综合得分率

作为比较难的评测维度，综合知识对大模型的“聪明”程度要求也很高，涉及的题目较杂，包含百科问答、常识、科学知识、事实问答、工作技巧、谜语等 13 个二级分类，题型以多选为主。

在综合知识评测上，讯飞星火 80.61% 的得分率排名第一，在 84.6% 的二级分类上得分率第一，初步显示出在百科问答和历史人文上的“过人之处”。

图：综合知识评测得分率

报告指出，在本轮大模型评测中，讯飞星火以 81.5 分的成绩拔得头筹，成为“最聪明”的国产大模型。

讯飞星火在编程能力、理科综合、逻辑思维、数学专项、语言专项和综合知识这 6 个一级大类中得分率排名第一，在此次评测中表现十分全面，尤其是在代码生成、数学能力、理科与逻辑等方面优势明显，是本次“最聪明的理科生”。

值得一提的是，从题型角度来看，主观简答题中讯飞星火凭借 83.98% 的得分率位居第一；而在客观题上，讯飞星火以 75.7% 的得分率排名第一，在主客观体型中均有良好表现。

此外，就在8月12日，新华社研究院中国企业发展研究中心发布的《人工智能大模型体验报告2.0》中，讯飞星火V1.5以总分1013分位列本次国产主流大模型测评榜首位，在四大评测维度中的智商指数和工具提效指数两个维度获得第一，《报告》认为讯飞星火“在工作提效方面优势明显”。

在刚刚过去的8月15日，讯飞星火认知大模型V2.0如期发布，进一步突破代码能力和多模态能力。

技术获得重大突破的同时，搭载讯飞星火V2.0核心能力的应用和产品也越来越丰富：

既有辅助程序员高效工作的智能编码助手iFlyCode1.0、能够进行视频创作的讯飞智作2.0、能够便捷搭建轻应用的教育数字基座应用开发助手，还有帮助教师设计教学活动、一键生成课件的星火教师助手、面向英语学习者口语练习的星火语伴2.0，讯飞AI学习机也升级AI 1对1智能编程助手和AI 1对1创意绘画伙伴。

此外，科大讯飞还和华为联合发布星火一体机，让每一家企业都有机会构建专属大模型。