理解大语言模型究竟在做什么，是决定我们是否应该使用它、以及应该如何使用它的关键。大语言模型，顾名思义，是一个规模巨大的语言统计模型。它最核心的功能是“预测下一个token”。

模型之所以能够做出这些预测，是因为它通过神经网络，在海量由人类生成的文本上接受了训练——包括书籍、期刊论文、维基百科文章、Facebook评论，以及开发者能够获得的其他各种材料。由此形成的，是一个关于词语序列的统计模型。比如，人类写下“猫跳进了……”之后，出现“箱子”或者“壁橱”的概率，要远远高于“洋葱”或者“嫉妒”。大语言模型做的，本质上也是类似的事情。如果这听起来很像我们发短信时手机里的自动联想，那是因为二者的确有相似之处——只不过大语言模型强大得多。

当然，大语言模型的实际运行机制要复杂得多。它的生成过程包含随机性：模型选择的下一个token并不永远是概率最高的那个，否则，同一个提示每次都会得到完全一样的回答。但这些技术细节并不会改变一件本质性的事情：大语言模型之所以能够生成看起来像人写出来的文字，是因为它在复现训练语料中常见的语言模式。这里最关键的一点是：大语言模型被设计出来，是为了生成“看起来合理可信”的文字，而不是为了生成真实的文字。遗憾的是，大语言模型现在已经非常善于产生听起来可信的文本，而且表达时往往显得非常自信，这很容易让我们误以为，它实际上理解得比它真正理解的更多。

2.1 虚构与幻觉

大语言模型的输出至少可能以两种彼此相关的方式出错：它可能在事实层面出错，也可能反映甚至放大训练语料中的偏见。前一种情况通常被称为“幻觉”，而这其实是大语言模型并不真正“知道”任何事情的自然结果。假如你问一个大语言模型“二加二等于多少？”在训练语料里，“two plus two”后面绝大多数时候会接着“equals four”，所以你大概率会得到正确答案。但并不是百分之百如此。“二加二等于五”这样的表达同样可能存在于人类写下的文本中，因为人会开玩笑、举错误示例、说谎或者犯错。模型又会以一定的随机方式在可能的输出中进行选择，所以有时它可能会回答“五”——而且说“五”时的自信程度，和它正确回答“四”时完全一样。当训练语料和你的问题关联较弱，比如面对非常专业的问题时，这种风险会更高；对于充斥错误信息的话题也是如此。

在科研写作中，一种常见的大语言模型幻觉，就是虚构参考文献。 如果要求大语言模型生成带有文献支持的文字，它完全可能提供看起来很像真的参考文献：作者似乎来自相关领域，期刊名称正确，论文标题也十分合理。唯一的问题是——这些论文往往根本不存在。

幻觉和偏见放大意味着，作为写作者，你在使用任何由大语言模型生成的文字之前，都必须认真思考。无论错误是不是来自大语言模型，最终你都要对自己写下的内容负责，因此必须仔细核查事实。遗憾的是，这件事并不轻松，其中有两个原因：一是大语言模型能够生成非常流畅、非常自信的文字；二是人类存在一种高估机器输出质量和客观性的倾向，也就是所谓的“自动化偏见”。

2.2 隐私问题

如果你把文字上传给大语言模型——比如希望它提出修改意见——那么你可能需要考虑：提供这个模型的公司接下来会怎样处理这些内容。一些大语言模型至少声称会删除用户的提示内容；另一些则会长期保存，甚至可能把这些内容用于进一步训练模型。即使你上传的信息本来不应该公开，也仍然可能因为黑客攻击、信息泄漏、法院要求披露，或者服务条款变化而暴露。

因此，一个比较稳妥的做法是：像对待其他上传到互联网的信息一样，假设你输入大语言模型的内容未来有可能变成公开信息。对于许多用户来说，这也许不会构成问题。但你应该避免上传敏感数据，并认真思考在自己的研究场景中，究竟什么属于“敏感”。是涉及人类受试者的数据？与高度竞争性的研究有关的数据或者论点？还是与专利申请有关的材料？

此外，如果一段文字并不是由你一个人完成，那么在没有获得所有作者同意的情况下，把它上传给AI至少在伦理上是值得质疑的。这不仅适用于别人的论文，也适用于你自己参与合著的论文。同样因为涉及“是否同意上传”的问题，用大语言模型协助完成同行评审也存在严重问题，一些机构已经明确禁止这种做法。

2.3 AI可能帮你绕开了原本应该训练的能力

你正在阅读这本书，大概意味着你希望提高自己作为科研写作者的能力。下一节中，我会介绍一些可以借助大语言模型实现这一目的的方法。

但是，大语言模型同样也可以被用来逃避培养——或者使用——这些能力。即使你的本意并非如此，这种情况仍然很容易发生。因为写作很难，而捷径总是很诱人。有研究表明，不受限制地使用大语言模型，可能会让写作者对自己的写作进行较少的复杂思考。另一个很可能出现的结果，就是写作者自身改进得越来越少。如果你利用大语言模型来逃避困难的写作任务，那么最终你可能会对自己的成长感到失望。

核心原则：把AI当作输入，而不是直接当作输出

如果你要使用大语言模型，就用它来培养自己的写作能力，而不是帮助自己逃避培养这些能力。如果你只是要求大语言模型替你写一篇论文，充其量只能得到平庸的结果；同时，你还会错失强化自己思考能力的机会。但是，如果你能够有意识地使用它，认真观察它给出的结果是什么、为什么会给出这样的结果，那么你不仅可能改善眼前正在写的文字，也可能同时提升自己的思考能力和写作能力。

那些能够培养写作能力、而不是替代写作能力的大语言模型使用方式，往往有两个共同特点。第一，你把大语言模型的回答当作输入给自己大脑的材料，而不是直接接受并交出去的成品。 这一点在头脑风暴和初稿阶段尤其重要，因为大语言模型很容易让文字和想法趋于同质化，并倾向于提出训练语料中最常见的思路。第二，你会思考模型提出了什么建议、为什么提出这样的建议，并判断某个建议究竟比其他选择更好还是更差。写作者真正提高能力的方式，始终是有意识地思考自己正在做出的选择，以及这些选择将如何影响读者最终接收到的内容。

3.1 让它找出论证中的薄弱环节

把一份草稿交给大语言模型，让它找出其中逻辑薄弱的地方，并提出可能的反驳意见。对于它提出的每一个建议，都要进一步问自己：大语言模型发现的究竟是科学本身存在问题，还是我的写作表达存在问题？后者出现的可能性更大，也更容易修改。但是，逻辑本身和我们如何用文字表达逻辑之间存在密切联系，所以要记住：有时候，看似只是表达不清楚，其实可能说明背后的思考本身也还存在问题。

3.2 要求AI把稿件至少缩短20%

把一份草稿交给大语言模型，要求它生成一个至少缩短20%的版本。然后，认真检查它提出的每一处删改。在压缩篇幅的过程中，大语言模型是不是删掉了重要内容？还是说，更有价值的是，它删除了一些你本来就可以不用写的词语或表达？如果属于后一种情况，那么不妨把这些问题记下来。因为你需要学习的，不只是怎样把眼前这篇稿件缩短，而是怎样在今后的写作中主动避免类似的冗余。

3.3 让AI替文章生成一份“反向提纲”

把一份草稿交给大语言模型，让它生成摘要、简短总结或者“反向提纲”——比如要求它把每一个段落压缩成一个只有十个词左右的要点，同时找出文章的主要主题和概念之间的联系。然后检查，模型生成的结果，真的准确捕捉到了你原本想表达的东西吗？如果没有，就进一步问自己：究竟是大语言模型理解失败了，还是因为你的草稿本身存在缺口？再看一看这份反向提纲，也就是你的草稿实际呈现出来的结构，是否按照合理的逻辑顺序展开。如果没有，是否可以通过修改，让文章的逻辑更加清楚？

3.4 让AI帮你拓展思路，但不要把它给出的文献当成答案

向大语言模型提供几句话，简要描述你正在写的研究，然后请它提出相关概念，以及可能与哪些文献产生联系。为了抵消大语言模型让想法趋于同质化的倾向，每当它提出一个相关概念时，都要求自己另外再想出一个它没有提出的概念。这也有助于对抗“锚定偏差”——也就是人很容易受到最先接触到的信息影响。同时，为了防止大语言模型产生幻觉，它提出的每一条文献联系都必须由你自己核实。

3.5 让AI帮你调整文章的“学术程度”

把一份写得比较随意的草稿交给大语言模型，请它将文字修改成“科研论文的风格”。但这里需要特别小心：大语言模型非常擅长复现学术文献中常见的写作模式，而这些模式中有相当一部分其实并不好。对于AI提出的每一处修改，都要问自己：这样的修改真的更符合科研论文读者的期待，还是只是让文字变得更技术化、更冗长、更乏味？

也可以反过来操作：把一份非常正式的草稿交给大语言模型，让它改得不那么正式、更有吸引力。这时同样要逐项判断：某项修改究竟损失了重要信息或细微差别，还是确实改善了读者的阅读体验？还可以进一步要求它把文章修改到更容易阅读的水平，再比较它具体改动了什么。

3.6 可以大胆尝试，但不要忘记为什么使用AI

大语言模型仍然是一项非常新的技术，而且发展速度极快。因此，我们还没有发现它所有可能的使用方式，继续尝试是值得的。但无论怎样使用，都应该牢牢记住那个核心原则：使用大语言模型，是为了培养你作为写作者的能力，而不只是为了把眼前这篇文章润色得更漂亮；尤其不要让它成为你逃避真正写作训练的工具。

The Scientist’s Guide to Writing, 3rd Edition: How to Write More Easily and Effectively Throughout Your Scientific Career

如何让写作变成科研生涯中一种稳定、高效、可以持续精进的能力？

从迟迟写不下第一句话，到论文结构混乱、反复修改，再到投稿、同行评审和多人合作，写作几乎贯穿一位科学研究者的整个职业生涯。The Scientist’s Guide to Writing 将科学写作拆解成一套可以学习和训练的方法，面向自然科学、数学及相关理工科领域的学生、博士后和青年研究者，讨论如何保持写作动力、找到论文真正要讲的故事，以及怎样组织论文、修改初稿、处理审稿意见和选择合适的期刊。第三版新增了对 AI 写作工具的讨论，分析大语言模型能够为科学写作提供哪些帮助，又可能带来哪些法律、伦理和职业风险；同时扩展了预印本、掠夺性期刊、大型作者团队等当下科研与学术出版中越来越现实的问题。它关注的既是一篇论文如何被写出来，也是一个科学想法如何通过清晰、有效的表达真正进入学术交流。

——Kimberly Nicholas，《洛杉矶时报》畅销书Los Angeles Times bestseller Under the Sky We Make: How to Be Human in a Warming World作者

——Terry McGlynn，著有The Chicago Guide to College Science Teaching

——Dianna K. Padilla，Quarterly Review of Biology《生物学季刊评论》

编译：樊葳