近期，一个名字被身边的朋友以及互联网反复提及，ChatGPT。
2022年11月30日，人工智能研究实验室OpenAI推出了新一代语言模型ChatGPT，它能够模拟人类的语言行为，与用户进行自然的交互。虽然从名字上不难看出，ChatGPT对外宣称是目前最先进的聊天机器人之一，但它能做到的事情远远超出了聊天本身。因为种种限制，大部分朋友可能还没有机会尝试使用过ChatGPT，但通过已有的宣传报道，不难看出它的实力：通过了世界知名大学的入学考试，通过法律和商业研究生考试，写出以假乱真的论文......
这给我们带来的震撼还在于：类似于论述题、主观题、写作这类开放式的问题，人工智能也可以比我们更快地完成了。或许大家现在每天都做着的寒假作业，交给人工智能只需要一两分钟就能全部完成。如果真能如此，你会作何选择呢？
我花几天写的论文，它1分钟就完成了
为了测试ChatGPT的学术能力，笔者尝试与它进行了一些简单的交流，例如对于文学常识、名词解释的掌握能力，这种一般搜索引擎都有的初级能力它肯定不在话下。
撰写新闻对它而言也是件非常容易的事，虽然很难说有多少可读性，但以它写新闻的速度，可能任何一名记者在抢新闻时效性上都不及它。
甚至它还可以在极短的时间内根据要求写几乎任何一个学术领域的论文，并且可以根据要求为文章增加更多的内容和细节。对于一般的课题研究来说，现版本的ChatGPT已经可以搭好论文的基本框架和方向，能够按照论文写作的基本格式：提出该命题的重要性和必要性——指出现状和不足——提供解决方案——总结来展开。
(注：以上对话原文均为英文，为了方便读者阅读理解使用翻译软件译成中文，因此语言翻译部分仅供参考。)
事实上，对于ChatGPT感知最为明显的群体之一就是高校的研究者和学生。文献综述、开题报告，这些过去需要花费大量时间在信息海洋中查找资料并总结提炼的研究步骤，居然可以在极短的时间内自动完成，甚至它还可以指出你在用词造句上的问题，并完善你的论文。
当然，在一部分人感到欣喜的同时，也有另一部分人看到了这类工具可能带来的学术风险和学术道德问题，借用一位网友的话来说就是：“ChatGPT可能会一本正经、逻辑自洽地输出一个完全错误的学术观点。”
当然，它也很有“自知之明”——
禁令！教育、学术界的担忧
考虑到ChatGPT在教育学术领域可能引发的问题，近期越来越多的学校、组织发出申明，禁止或严格限制学生使用ChatGPT进行论文写作。
法国顶尖学府之一的巴黎政治学院宣布该校将禁止使用ChatGPT，多所美国中学及大学陆续宣布校内禁止使用ChatGPT，并通过减少课后作业的方式，避免学生利用家庭网络访问ChatGPT作弊。美国纽约市教育部，甚至要求全纽约市的学生和教师不要使用这款AI工具，并对下辖的教育部设备或互联网设卡，限制访问ChatGPT。
两大科学期刊分别也在近期更新了投稿规则：《科学》（Science）禁止在投稿论文中使用ChatGPT生成的文本，而《自然》（Nature）则在更新的投稿规则中表示，只能将ChatGPT在内的大语言模型作为一种工具，并在论文的方法部分适当介绍，不能将ChatGPT列为作者。
未来，类似于ChatGPT这类工具能否在学术研究环节中被使用还没有最终确定，但相信它会在一个受到严格限制并且有完善的反作弊机制下发挥优势。
机遇？危机？共存的未来
基于大型语言库训练的语言模型，在现阶段依然只是信息整合的工具，它只能反映已经存在的部分事实，并根据这些既有的事实有限度地进行生成。在当下，人工智能还不具备从无到有的创造力和比肩人类的思考能力。
但即使是这样一个工具的出现，就足已让各行各业的从业者感受到一种机遇和危机并存的挑战。机遇是，人工智能的引入能够提高部分工作的效率，降低成本，而带来的危机则是，人工智能学习能力的边界还尚未可知。
可能在几年之前，人们还普遍认为人工智能只能在一些简单、机械的劳动上取代人力，但永远无法取代需要大量思考和设计的工作。但就在一两年内，出现了诸如“6penAI”这类AI绘画的软件，用户只需要用文字的形式描述脑海中的画面，算法就可以在几秒内自动生成一张独特的绘画，这些绘画虽然在风格上“学习”了某些人类艺术家，但绘画的内容却是从未出现过的。人工智能可以在极短的时间内写出一篇像模像样的学术论文，可以几乎无延迟地撰写新闻，并随时可以写出几首颇有意味的诗歌......这些在传统意义上只能由人类智慧创作的艺术作品，人工智能已经证明了它“可以做”，虽然还不能做得更好。但我们无法否认的是，在可预见的未来，我们需要接受一个与人工智能共存的世界。
（以上图片均由笔者通过6penAI生成）
由ChatGPT引发的思考
虽然这类人工智能工具尚未对基础教育领域产生明显的影响，但如果前文的推想正确，时代对于人才的要求将会越来越高。
因此，对于每一位教育行业的从业者，我们必须思考的问题是：在现行的教育制度和选拔制度下，我们培养出来的绝大部分学生，在未来是否能够适应与人工智能共存的世界，换句话说，他们长大后原定的工作是否能够非常轻易地被这些进阶的人工智能取代?
从更高一些的维度来说，我们还可以思考：现行的基础教育度，除了教会学生掌握特定的技能，例如:计算、背诵、默写等等，是否应该更加重视人工智能无法或者难以学习的领域，例如——
深度思考的能力。帕斯卡尔说：“人是一根会思考的芦苇。”人的高贵在于思想，而深度思考能力的获得是需要后天不断地训练和积累的。在大数据时代，人工智能普遍已经有了一定的学习能力，但深度思考的能力可以将两个看似毫无联系的事物紧密联系在一起，既可以管中窥豹，见微知著，也可以“已识乾坤大，犹怜草木青”，人类思维的灵活和张力，或许是我们得以“存在”的必要前提。
理解复杂情感的能力。除了喜怒哀乐这些人类与生俱来的情感外，我们是否拥有与其他生命个体、群体建立共情的能力，是否能够理解多种情绪交织产生的微妙的情感。生活中的一些情绪非常容易被识别或模仿，但只有这些人类更为复杂的情感是在短时间内难以被机器定量化地表达出来的。
鉴别信息真伪的能力。获取有价值的信息并没有随科技的进步变得更容易，反而成为一件更加费时费力的事情。相比于现阶段类似于“水军”这样大规模复制同一段对话的机器人，人工智能可以做到以不同的表达方式，在短时间内大量输出同一种观点，以此达到以假乱真的目的。如果不具有鉴别信息真伪的能力，将越来越难以获得真正对自己有价值的信息，这也是推进媒介素养教育必要性的理由所在。
发明创造的能力。能够将想法变为现实，将原本不存在的事物创造出来，这是当前人工智能无法触及的领域，需要合理引导学生培养这样的能力。
结 语
作为一名教育行业的媒体工作者，我并不很在意ChatGPT在现阶段还存在的一些“人工智障”行为或者回答，虽然如果你有心“捉弄”它的话，就会得到不少令人哭笑不得的回答，但6penAI、ChatGPT这类让人不得不重视的工具给予我们的警示是，如果我们的教育不能与时俱进地进行改革，而仅仅停留在对一些基本的技能进行重复的训练上，如果仅仅只是重视某一些具体技能、技巧的获得，而不重视更深层次能力的培养，那么由这样的教育所培养出来的孩子将很难适应与人工智能共存的未来。
文｜金浩文
责编｜张玮
编辑：LRS
【新智元导读】虽然ChatGPT写的论文错误太多，但掠夺性期刊应该会接收。（错误尝试！！）
ChatGPT以其强大的文本创作能力，直接问鼎地表最强问答模型。
但强大的AI也会带来一些负面影响，比如在问答社区一本正经地写出错误答案，帮助学生写论文等。
最近arXiv上的一篇论文引发了业界的关注，来自西班牙圣地亚哥-德孔波斯特拉大学的研究人员在文中以「人工智能在药物发现中的挑战、机遇和策略」，这篇论文的特别之处在于作者使用ChatGPT辅助论文写作。
论文链接：https://arxiv.org/abs/2212.08104
作者团队在摘要中的最后一段「来自人类作者的说明」（Note from human-authors）中表示，创建这篇论文是为了测试 ChatGPT (一个基于 GPT-3.5语言模型的聊天机器人)的写作能力是否能帮助人类作者撰写评论文章。
作者设计了一段指令作为文本生成的初始提示，然后对自动生成的内容进行评估。再进行彻底的审查之后，人类作者实际上重写了手稿，努力在原始proposal和科学标准之间保持平衡，文章的最后也讨论了使用人工智能实现这一目标的优势与局限性。
但是还有一个问题，作者列表里怎么没有ChatGPT？（手动狗头）
本文是在ChatGPT的辅助下生成的，ChatGPT是2022年11月30日发布的一个自然语言处理系统，由OpenAI用大量文本语料库进行训练，能够根据提供给它的输入生成类似人类写作的文本。
就本文而言，人类作者提供的输入包括论文的主题（人工智能在药物发现中的应用）、需要考虑的章节数量，以及每个章节的具体提示和说明。
ChatGPT生成的文本需要经过人工编辑后才能作为最终的定稿，以纠正和丰富内容，避免重复和不一致等问题；并且人类也需要对人工智能建议的所有参考文献进行了修改。
这项工作的最终版本是人类作者在人工智能的协助下进行反复修改的结果，直接从ChatGPT获得的初步文本与当前版本手稿之间的总相似度为：完全相同的4.3%，微小的变化13.3%，相关的意义16.3%。直接从ChatGPT获得的初步文本中，正确的参考文献比例仅为6%。
由ChatGPT生成的原始版本，以及用于创建该版本的输入信息都涵盖进来作为Supporting Information
论文摘要中的插图由DALL-E生成。
论文总共包括10个section和56个参考文献，其中section1-9都只包含1-2个段落，主要描述论文主题「「人工智能在药物发现中的挑战、机遇和策略」」相关的内容；第十个section主要讨论「人类作者对基于ChatGPT和AI的科学写作工具的专家意见」；文章中只有摘要部分包含一张插图。
摘要
人工智能有可能彻底改变药物发现过程，提供更好的效率、准确性和速度。然而，AI的成功应用取决于高质量数据的可用性、对道德问题的处理以及对基于人工智能方法的局限性的认识。
这篇文章回顾了人工智能在这个领域的好处、挑战和缺点，并提出了克服目前障碍的可能战略和方法。
文章中还讨论了数据增强的使用、可解释的人工智能、人工智能与传统实验方法的整合，以及人工智能在医药研究中的潜在优势。
总的来说，这篇评论强调了人工智能在药物发现中的潜力，并对实现其在该领域的潜力所面临的挑战和机遇进行了深入探讨。
人类作者对基于ChatGPT和AI的科学写作工具的专家意见
ChatGPT是一个基于GPT-3.5语言模型的聊天机器人，它的设计目标并非是撰写科学论文的助手，但它与人类进行连贯的对话并就广泛的主题提供新信息的能力，以及它纠正甚至生成计算代码的能力，都让科学界感到惊讶。
因此，我们决定测试它的潜力，为编写关于人工智能算法在药物发现中的作用的简短评论做出贡献。
作为撰写科学论文的助手，ChatGPT有几个优点，包括快速生成和优化文本的能力，以及帮助用户完成几个任务，包括组织信息，甚至在某些情况下连接思想。
然而，这个工具绝不是生成新内容的理想工具。
输入instructions后，还需要人类对人工智能生成的文本进行修改，而且是大篇幅的编辑和修正，包括替换几乎所有的参考文献，因为ChatGPT提供的参考文献明显不正确。
这也是ChatGPT目前存在的一个大问题，它与其他计算工具（如搜索引擎）相比有一个关键的区别，后者主要是为所需的信息提供可靠的参考。
而采用基于人工智能的工具进行写作辅助还存在另一个重要的问题：它是在2021年训练的，所以它并不包括最新信息。
这次写作实验提供的结果就是：我们可以说ChatGPT不是一个有用的工具，在没有强大的人类干预的情况下无法编写可靠的科学文本。
ChatGPT缺乏准确和充分传达复杂科学概念和信息所需的知识和专长。
此外，ChatGPT使用的语言和风格可能不适合学术写作，为了生成高质量的科学文本，人类的输入和审查是必不可少的。
这种人工智能还不能用于生产科学文章的主要原因之一是它缺乏评估处理信息真实性和可靠性的能力，因此，由ChatGPT生成的科学文本肯定包含错误或误导性信息。
同样需要注意的是，审稿人可能会发现区分由人类或这个人工智能写的文章并非易事。
这使得审查过程必须彻底，以防止虚假或误导性信息的发表。
一个真正的风险是，掠夺性期刊（predatory journals）可能利用科学文章的快速生产来产生大量的低质量内容，这些期刊往往受利益驱使，而不是致力于科学进步，它们可能利用人工智能快速生产文章，让不合格的研究充斥市场，破坏科学界的公信力。
最大的危险之一是科学文章中虚假信息的潜在扩散，这可能导致科学事业本身的贬值，失去对科学研究的准确性和完整性的信任，会对科学的进步产生不利影响。
有几种可能的解决方案来减轻与使用人工智能制作科学文章有关的风险。
一个解决方案是开发专门用于生产科学文章的人工智能算法。这些算法可以在高质量、经同行评议的研究的大型数据集上进行训练，这将有助于确保其生成的信息的真实性。
此外，这些算法可以被编程为标记潜在的问题信息，如引用不可靠的来源，这将提醒研究人员需要进一步审查和核实。
另一种方法是开发能够更好地评估其处理的信息的真实性和可靠性的人工智能系统。这可能涉及在高质量科学文章的大型数据集上训练人工智能，以及使用交叉验证和同行评审等技术，以确保人工智能产生准确和值得信赖的结果。
另一个可能的解决方案是为人工智能在科学研究中的应用制定更严格的准则和法规，比如包括要求研究人员披露他们在制作文章时使用了人工智能，并实施审查程序以确保人工智能生成的内容符合某些质量和准确性标准。
此外，还可以包括要求研究人员在发表前彻底审查和核实人工智能生成的任何信息的准确性，以及对那些未能这样做的人的惩罚，教育公众了解人工智能的局限性和依靠人工智能进行科学研究的潜在危险也可能是有用的，可以帮助防止错误信息的传播，确保公众能够更好地区分可靠和不可靠的科学信息来源。
资助机构和学术机构可以通过提供培训和资源，帮助研究人员了解该技术的局限性，在促进科学研究中负责任地使用人工智能方面发挥作用。
总的来说，解决与在科学文章制作中使用人工智能相关的风险，将需要技术解决方案、监管框架和公共教育的结合。
通过实施这些措施，我们可以确保人工智能在科学界的使用是负责任和有效的。研究人员和政策制定者必须仔细考虑在科学研究中使用人工智能的潜在危险，并采取措施来减少这些风险。
在人工智能能够被信任以产生可靠和准确的信息之前，它在科学界的使用应该是谨慎的，必须仔细评估人工智能工具提供的信息，并使用可靠的来源进行验证。
参考资料：
https://arxiv.org/abs/2212.08104
相关问答
chatgpt润色论文是安全的,但完全依赖于chatgpt写论文是不行的。2023年,普林斯顿大学开发了更高级的工具GTPZero,来检测论文是否是出自于ChatGPT软件。现在GTP...
无法确定chatgpt的论文重复率,需要根据具体情况进行分析和检测。建议定期使用专业的查重工具,保持自身的学术诚信。无法确定chatgpt的论文重复率,需要根据具...
会被查出来。因为维普是一个比较全面的学术搜索引擎,致力于收录国内外的学术论文和研究成果,其中包括了chatgpt写的论文。维普对于论文的收录是比较严格的,会...
第一步:现象确认首先,你要跟ChatGPT确认它是否了解中国的鸡娃现象,毕竟有时候它也会胡言乱语。你要先通过确认现象的方式,确保你们在同一个频道形成同频思考...
很有可能会重样。ChatGPT是一个强大的语言模型,它可以生成合理的文本,可以帮助您快速了解特定主题的相关信息。但ChatGPT生成的文本可能不够专业,缺乏学术性...
