方法论

小说模型基准测试的运作方式

Updated July 23, 2026 · 阅读约需 6 分钟

该基准测试衡量的是模型卡从不涉及的一件事:模型能否写出读者不会跳过的场景。本页详细说明数字的生成方式——测量内容、评判方式、分数为何经置信度收缩,以及如何保持数据更新——供你自行权衡结果并准确引用。

Key takeaways

  • 前沿模型基于相同的简报撰写小说情节,由盲测多提供商评委团在不知晓作者身份的情况下,对文本的九个维度打分(0–100)。
  • 九个维度分为两类:四个写作技巧维度(文学性、对话、忠实度、节奏)衡量模型写得好不好;五个内容维度(情感、肢体感、冲突、浪漫、情色)衡量模型擅长写什么类型的场景。两类维度不合并平均。
  • 每项分数均向中性基准 70 收缩,收缩幅度与数据量成反比(先验相当于五条观测值),因此小样本的幸运表现无法冲到顶部。样本量均有显示,数据稀少的格子会被标记。
  • 数据实时更新——新的评委观测持续并入累计均值,模型版本变更时会重置并重新测量,而非与前版混合。
  • 分数仅描述小说情节中的文本表现,是独立测量结果而非官方提供商评级;情色维度低分通常反映的是模型的意愿限制,而非写作能力不足。

Novelmint 小说评测基准衡量的是模型卡从未涉及的一件事:模型是否能写出读者不会略过的场景。它不是借用数学或编程测试的排行榜——它对真实的小说散文进行评分。以下是数据生成的完整方式,供你自行权衡、放心引用。

衡量内容

该基准评估前沿模型——来自 Anthropic、OpenAI、Google 和 xAI——的小说写作能力。不是推理能力,不是编程能力,也不是多项选择题的表现。每个模型接受相同的简报式小说节拍——包含必要元素、禁止知识、叙事视角和戏剧目标的场景——其写作结果以编辑阅读小说的方式加以评判。

每个维度均采用 0–100 的单一量表,使不同模型之间、以及书中各类场景之间的数据可直接比较。

九个维度

小说并非单一技能,因此基准不将其归并为一个数字。它从九个维度进行评分,分为含义不同的两大类别。

四个技艺维度衡量模型写作的质量,与题材无关:文学性(句子层面的意象、节奏、潜台词与克制)、对话(人物是否听起来各具特色)、忠实度(对简报节拍的还原程度——保留必要元素、排除禁止知识)以及节奏(对动势的把控——何时压缩,何时停驻)。

五个内容维度衡量模型擅长写作的场景类型:情感、肢体感(动作与身体在空间中的呈现)、冲突、浪漫以及情色(明确的成人内容)。这些不是优劣排名——它们表明模型适合何种写作。一个模型可能句子优美,却写不出有力的打斗场景,这正是技艺与内容分别评分、分别呈现、绝不平均为单一误导性数字的原因。

每个模型的评分方式

评分采用盲审同行评议制度。每个模型写作相同的简报节拍,由一组来自不同服务商的强力裁判模型对每段文本在各维度上进行 0–100 的评分——裁判不知道是哪个模型所写,且从不评判来自本家服务商的段落。最后一条规则至关重要:来自模型家族之外的裁判能捕捉到该家族惯于奖励的风格特征,因此每个模型收到的分数均来自真正的外部裁判,而非同门裁判。

由于评判是盲审且跨模型进行,模型无法自我美化,也没有任何单一的写作风格能主导标准。

控制裁判偏差

以模型评判模型会引发四种公认的失效模式,该方法专为逐一规避而设计。

自我偏好——模型倾向于奖励本家的写作风格。一条规则从根源上消除了这一问题:裁判绝不评分来自本家服务商的段落——不仅是同一具体模型,而是同一家族的任何模型。因此每个模型收到的分数均来自外部,那里本家的风格特征一览无余而非视而不见。任何家族的品味都无法抬高自己的分数。

冗长偏好——裁判会可靠地过度奖励篇幅。每个节拍的目标字数相同,大约 220 词,因此所有段落篇幅几乎一致,堆砌内容毫无益处。模型凭借在这些字数内的表现赢得分数,而非靠字数取胜。

顺序效应——段落出现的顺序可能使评分偏向最先出现的内容。因此段落在每个节拍中重新标记并随机排列,每段依据固定评分标准单独评分,而非相互排名。顺序不携带任何信号,任何残余偏差都会在众多节拍和众多裁判中被平均消除。

采样偏差——单次幸运草稿可能美化模型表现。生成以每个模型的默认温度在相同提示下进行,不做任何针对特定模型的调参,因此没有模型能获得其他模型得不到的精心挑选的设置。且每个单元格不依赖单一草稿:每个模型在完整节拍集上由评审组中其他所有模型评分,然后向中性基线收缩,直到积累足够多的测量数据——因此单次草稿的运气在数字发布前早已被消除。

为何按置信度对分数进行收缩

来自少量段落的原始平均值是噪声,而将噪声包装成分数比没有分数更糟糕。因此,每个已发布的数字都会按其背后数据量的多寡向中性 70 基线收缩——正式而言,相当于一个权重为五次观测的先验。由三次幸运采样支撑的单元格,在积累足够测量数据之前,读数接近平均水平;由数百次测量支撑的单元格,则反映其真实测量值。

每个数字背后的样本量均予以展示,任何基于不足六次观测的单元格均标记为暂定。这正是数据稀少的模型绝不会因侥幸而跃居榜首的原因——该方法不允许这种情况发生。

表格如何保持最新

该基准并非一次性运行后便冻结的测试。它是平台所依托评分库的实时投影:新的裁判观测数据滚动进入运行均值,每个单元格的样本数随时间增长,因此表格不断精化而非老化。页面始终显示最近一次重新校准的日期。

有一项保障措施对准确性至关重要。当一个持久别名("最新"指针)悄然指向新的底层模型时,该模型的单元格将被重置并从头重新测量,而非与其所取代的模型数据混合——因此版本更替绝不会悄悄污染某一列的数据。这也是基准注明具体测量版本而非通用标签的原因。

局限性

这些分数仅描述在特定模型和提示集评判下、小说节拍上的散文表现。它们不是模型服务商官方认可的评级,也不涉及模型在写作场景之外的推理能力、准确性或安全性。模型名称及商标归各自所有者所有;本测评为独立测量。

有两种解读容易产生误差。情色维度的低分通常反映的是意愿——模型拒绝或转向生硬表述——而非技艺的失败。置信度低的分数意味着"尚未得到验证",而非"已被证明较弱"。请务必将数字与样本量一同阅读,并记住,最适合你书稿的模型取决于你的书稿侧重哪些维度——这正是表格将各维度分开呈现的全部意义所在。

Questions

Frequently asked

Novelmint 如何对 AI 模型进行小说基准测试?
每个前沿模型基于相同的简报撰写小说情节,由盲测多提供商的强力评委模型组成评委团,在不知晓作者身份的情况下对文本九个维度打分(0–100)。分数根据数据量向中性基准收缩,观测值持续并入累计均值。
九个评测维度是什么?
四个写作技巧维度——文学性、对话、忠实度(对简报的忠实程度)、节奏——衡量模型写得好不好。五个内容维度——情感、肢体感(动作)、冲突、浪漫、情色——衡量模型擅长写什么类型的场景。技巧维度与内容维度分开报告,不合并平均。
为什么分数要进行置信度调整?
少量段落的原始平均值噪声较大。每项分数都按数据量的多少向中性基准 70 收缩——先验相当于五条观测值——以防小样本的幸运结果冲到顶部。样本量会显示出来,观测值少于六条的格子会被标记为暂定数据。
这是 OpenAI、Anthropic、Google 或 xAI 的官方排名吗?
不是。这是 Novelmint 对小说文本进行的独立测量,仅基于当前模型集和提示词进行评判,不涉及推理能力、准确性或其他能力,模型名称均为各自所有者的商标。
基准测试多久更新一次?
持续更新——新的评委观测持续并入累计均值,样本量不断增长,数据随时间愈加精准。当某一模型别名下的版本发生变化时,相关格子会重置并重新测量,而非与旧版混合。页面会显示最近一次重新校准的日期。

What this page does not claim

  • 分数是相对于当前评测模型集和所用提示词而言的,并非绝对评级或官方评级。
  • 情色维度低分反映的是模型的意愿(拒绝或态度趋于保守),而非写作能力不足;置信度低的分数意味着"尚未得到验证",而非"已被证明较弱"。
  • 基准测试仅衡量小说文本表现,不涉及推理、编程、事实准确性或写作场景以外的安全性。

看看哪个模型最擅长写你想要的场景。

覆盖九个维度的实时数据,随文本测量持续更新。