ChatGPT 根据命令生成类似人类文本的能力在高等教育中引发了危机。教师和教授们一直感到困惑，他们想知道如何处理一种技术，该技术可以使任何学生在没有实际学习的情况下编造作业。尽管有一种可以理解的诱惑，即简单地禁止它进入课堂，但我（CW Howell）在伊隆大学的宗教研究课上采取了另一种方法。
相反，我决定让学生直接与 ChatGPT 互动。我选择这样做有两个原因。首先，即使不是不可能，也很难真正禁止它;无论如何，学生们都会使用文本生成人工智能。其次，不幸的是，即使是试图负责任地使用它（也就是说，不仅仅是批发作弊）的学生也没有真正了解这项技术。一个常见且严重的错误是，许多学生错误地认为它是一个万无一失的搜索引擎。一名学生试图将 ChatGPT 用作研究工具，并不知道它可以混淆虚假来源和引文，将欺诈性信息纳入一篇原本无辜的论文中。我的目标是通过向学生传授 ChatGPT 等模型中的缺陷来防止这种类型的失误。
为此，我创建了一个人工智能驱动的课堂作业。每个学生都需要用 ChatGPT 生成自己的论文，并根据我的指示对其进行“评分”。学生们被要求对文件发表评论，就好像他们是评估学生作品的教授一样。然后他们回答了我提供的问题：ChatGPT 是否混淆了任何来源？如果是这样，你是怎么发现的？它是否正确使用了任何来源？它有没有弄错任何真正的来源？它的论点是有说服力的还是肤浅的？
结果令人大开眼界：63篇文章中的每一篇都包含虚构和错误。大多数学生对此感到惊讶，许多人对这项技术的印象不如做作业之前。我希望其他教授和老师也能从将这样的作业纳入他们的课程中受益。
除了教授人工智能素养和负责任地使用 ChatGPT 外，这项作业还激发了学生关于人工智能在课堂上的使用、论文写作的目的以及在机器时代成为人类的令人兴奋和深刻见解的反应。我请其中的两位，Cal Baker 和 Fayrah Stylianopoulos，分享他们对人工智能在教育中的看法和见解。
Cal Baker，大二学生：
功课最关键的要素不是课程材料或成绩：学生在完成作业时所经历的实际思维过程比简单地上交完成的任务更重要。作品中的细节很少像这种想法那样重要。如果学生使用 ChatGPT 为他们做作业，我担心他们会错过这些认知体验。
在大多数情况下，材料本身很少是首先给出学校作业的原因;相反，当学生完成作业时，他们的大脑中发生的事情是学校教育的支柱。做数学工作表、综合资料或写一首诗是改善学生大脑的作业的例子。当学生工作时，他们的神经元会形成新的连接，使他们能够在下次更快、更轻松地工作，并提高他们进一步学习和生产力的能力。
使用 ChatGPT 等 AI 完成作业可能会损害学生的认知发展。2018年欧盟关于人工智能对教育潜在影响的政策报告 说明学生的大脑正处于发育的“关键阶段”.它进一步警告说，如果年轻的大脑在关键的发育阶段学会依赖人工认知技术，将产生“相当根本的后果”。换句话说，如果他们不把自己的努力放在功课上，学生可能会错过发展自己解决问题所需的大脑结构。最近的一个 人工智能前沿 论文，从 2022 年开始， 得出了类似的结论作者推测，虽然将任务“认知卸载”到人工智能“可以提高即时任务绩效，但它也可能伴随着有害的长期影响。这些影响可能包括解决问题的能力下降、记忆力下降，甚至学习新事物的能力下降。
从表面上看，一个人练习的东西越多，他们就越有可能变得更好。但在更深层次上，学生在完成这些作业时大脑中发生的过程是e 最重要的部分。如果学生转向人工智能而不是自己做工作，他们用于该作业的神经通路将恶化，而不是形成和回溯。这最终会伤害学生。如果他们依赖在短期内使生活更轻松的技术，他们将无法发展未来工作的能力，从而使他们的生活从长远来看更加困难。
Fayrah Stylianopoulos，大二学生：
尽管 ChatGPT 如果被滥用肯定是危险的，但我认识到它有可能支持学生的学术之旅。在最好的情况下，ChatGPT 可以成为一种多功能资源，将新鲜的互动想法引入课堂，供教师和学生欣赏。例如，它可以根据标准化目标、起草课程计划和学生作业提示来建议独特的学习体验。ChatGPT 甚至可以在学生自己的课堂笔记上对学生进行测验（以简答题或多项选择的形式），尽管值得注意的是，通过编写自己的问题和回忆提示，学生可能会在认知上得到更好的服务。
然而，人工智能在学术空间中的无处不在迫使学生反思他们是谁，以及 ChatGPT 是什么。
一些评论家将大型语言模型比作 GPT-3 对训练有素的鹦鹉 重复熟悉的短语，却不知道它们微妙的上下文对人类听众意味着什么。如果这种“听起来正确”的无激情和超然的先例在课堂上得到回报，它将对人类的思考和对话产生悲剧性的同质化影响。我相信，对于我们在这个世界的命运中分享的至关重要的、深刻的利害关系，这是人类（和鹦鹉）所拥有的，但 ChatGPT 没有。尽管 ChatGPT 具有令人难以置信的能力，但它与我们或世界没有任何关系。这样一个超然的声音怎么能为我们提供任何我们还没有的东西呢？
我担心，如果学生过度依赖机器学习技术，他们将学会像机器学习技术一样思考，并专注于预测最有可能的“正确答案”，而不是批判性地思考和寻求理解细微的想法。科幻小说经常描绘人工智能接管社会，导致技术奇点（技术不可逆转地超越人类）和世界末日。但我并不担心人工智能会发展到我们现在的位置。我更担心我们回到人工智能所处的位置的可能性。
本文为观点分析文章，作者或作者表达的观点不一定是 《科学美国人》。
本文由AI快讯网译自：AIMagazine
