以下内容首发于微信公众号：【埃米编辑】。关注埃米编辑，写作投稿更容易~如有论文润色需求，可以联系我们哦~

2023年9月20日，中国科学技术信息研究所（简称“中信所”）与Elsevier、Springer Nature、Wiley三家国际出版集团共同完成的《学术出版中AIGC使用边界指南》 正式对外发布。

随着人工智能技术的迅速发展，特别是2022年11月人工智能聊天机器人ChatGPT的发布，人工智能内容生成(Artificial Intelligence Generated Content，简称AIGC)已经走进公众视野，并被广泛利用，还有部分科研人员开始用它来进行写作或者润色论文，但必须知道的是，像ChatGPT这样的人工智能语言模型仍在开发阶段，会有很多的局限性，我们一起来了解一下吧~

1 ChatGPT的潜在风险

1） 安全风险

尽管OpenAI采取了许多安全措施，但由于安全漏洞、错误等，仍有可能发生数据泄露事件。例如，2023年3月，当时一个漏洞导致一些用户看到了其他用户的聊天标题，以及有限的个人信息和账单信息。

对于研究人员来说，尤其需要注意的是，当您打算用ChatGPT润色论文，当您文章的全部或者部分输入ChatGPT时，您的论文稿件就有可能成为大型语言模型训练语料库的一部分，也就说，可能有稿件泄露的风险，特别是当同领域的另外一位学者也在使用ChatGPT润色时。

2）不可避免地犯错或不精确的措辞

ChatGPT是一个不断发展的语言模型，它难免会犯错。使用时仔细检查论文是至关重要的，因为它可能会出现语法、数学、事实和逻辑错误。

更令人担忧的是，聊天机器人有时很难承认自己不知道某些事情，而是编造一个听起来似乎合理的答案。它会优先提供其认为更 "完整 "的答案，而忽略了事实的正确性。换句话说，就是ChatGPT很会一本正经的胡说八道，当你没有掌握足够的信息和判断能力时，就很容易被误导。

3） 有偏见的答案

与所有语言模型一样，ChatGPT也存在固有偏见的风险，大家会担心人工智能工具的广泛使用可能会使文化、种族和性别偏见永久化。这主要是由以下几个因素造成的：

◆ 初始训练数据集是如何设计的；

◆ 由谁设计；

◆ 随着时间的推移，模型的 "学习 "效果如何。

如果有偏见的输入决定了聊天机器人所参考的知识库，那么就有可能导致有偏见的输出，特别是在它如何回应某些话题或使用的语言方面。这几乎是每个人工智能工具都会面临的挑战。

4） 乏人类洞察力

虽然ChatGPT非常擅长对特定的提示或问题生成连贯的回复，但它终究不是人类。因此，它只能模仿人类的行为。这就产生了各种影响：

1. 并不总能理解一个话题的全部背景，这可能导致无意义或过于直白的回答。

2. 不具备情商，无法识别或回应讽刺、挖苦或幽默等情绪暗示。

3. 并不总能识别成语、地方语言或俚语。相反，它可能会从字面上理解 "raining cats and dogs "这样的短语。

4. 没有实体存在，无法像人类一样看到、听到或与世界互动。这使得它无法根据直接经验来理解世界。

5. 回答问题的方式非常机械，很容易看出是由机器生成的，通常来自模板。使得学术论文缺乏创新性。

6. 只看问题表面，不一定能理解潜台词。虽然偏向中立通常是件好事，但有些问题需要你选择立场。

7. 可以总结和解释一个话题，但无法提出独特的见解。人类需要知识来创造，但生活经验和主观意见对这一过程也至关重要——ChatGPT无法提供这些。

5） 过长或冗长的答案

ChatGPT的训练数据集鼓励它从许多不同的角度来涵盖一个主题，用它能想到的各种方式来回答问题。

虽然这在某些方面是积极的，但在有些话题中，最好的答案肯定是最直接的答案。这种过度解释的倾向会使ChatGPT答案过于正式、冗长。

2 想用ChatGPT，该注意什么

1） 批判性的评估产出内容

仔细检查论文，避免出现语法、逻辑等错误。一定要使用可靠的来源验证信息。

2）遵循所在机构或期刊的要求

咨询所在机构关于使用人工智能写作工具的政策。现在，大多数期刊都需要作者在稿件中披露人工智能辅助技术在写作过程中的使用，具体要求可查看目标期刊的作者指南，例如：

During the preparation of this work the author(s) used [NAME TOOL / SERVICE] in order to [REASON]. After using this tool/service, the author(s) reviewed and edited the content as needed and take(s) full responsibility for the content of the publication.

3） 仅通过OpenAI网站或官方app使用ChatGPT

ChatGPT官方应用目前仅在iOS设备上可用。如果您没有iOS设备，请使用OpenAI官方网站访问该工具。不要冒险下载欺诈或恶意软件。

4） 不要输入敏感信息

ChatGPT 通常会保存用户输入的信息，用于优化未来的模型。因此，避免在该工具中上传敏感信息。

如果担心ChatGPT有安全风险，又想要润色论文，那么可以考虑使用专业的润色机构进行论文润色，埃米编辑是个不错的选择，全部都是美国本土资深编辑润色，不仅可以帮你节省时间和精力，还能提高文章质量，增加接收概率。

扫描下方二维码，关注【埃米编辑】微信公众号，获取更多SCI论文写作资料。