文章主题:ChatGPT, 人工智能, 伦理问题, 学术圈
封面新闻见习记者 马晓玉
在7月9日这个重要时刻,ChatGPT代码解释器(Code interpreter)测试版正式面向所有Plus用户提供开放。这一举措意味着,非程序员用户只需利用自然语言与ChatGPT进行沟通,便可轻松应对原本需要复杂编程技能的任务。
ChatGPT自面世以来,一直饱受争议。其引发的学术伦理问题使得其实施并非易事。要让日益发展的人工智能在学界发挥更大的作用,仍有许多工作要做。
人工智能生成内容引发学术伦理问题,AI检测应运而生
ChatGPT 的强大算力正逐步将其转变为学生们撰写论文的强大工具,这一趋势引发了学术界的广泛关注。针对此种担忧,美国纽约、西雅图、洛杉矶等地的部分公立学校已禁止学生在课堂上使用 ChatGPT。
很多科学家也对将人工智能以作者身份标注在文章中持反对态度。Science期刊的主编曾明确表示:“我们坚决反对将人工智能作为我们的作者,并在未经适当引用的情况下,使用人工智能生成的文本可能会被视为剽窃行为。”
Nature期刊的主编明确指出,大型语言模型(LLM)不会被接受作为研究论文的作者。这是因为论文作者的身份代表着对其研究成果的责任,而这种责任无法由人工智能工具来承担。
在人工智能技术飞速发展的当下,诸如Turnitin、GPT Zero 和 Compilatio等众多AI检测软件应势而生,为提高教学质量和效率提供了有力支持。在这些软件中,GPT Zero无疑是最为著名的代表之一,其应用范围广泛,深受高校教师的喜爱。
GPT Zero
被称为最强反AI工具的GPT Zero,是今年3月由一位来自普林斯顿大学大四学生Edward Tian发布的编程,旨在帮助教育工作者检测ChatGPT生成的写作,目前还获得了融资。而Edward Tian本人也被冠以“全美学生公敌”的称号。
稍微调整就可以通过检测,AI检测工具真的有效吗?
GPT Zero称其AI文本检测器工具使用深度分析技术来识别文本的来源,检测准确率高达98%。并将不断完善,将错误率下降到低于2%。然而,其测试的准确率真的有效吗?
德国柏林技术与经济应用科学大学的媒体和计算教授黛博拉·韦伯·伍尔夫与来自多所大学的一组研究人员合作,评估了包括GPT Zero 在内的 14 种检测工具。
该团队使用 ChatGPT 生成了两份文本,每份都经过了轻微的调整,以隐藏它是人工智能生成的。其中一组是由研究人员手动编辑,他们重新排列句子并替换单词,而另一组是使用名为 Quillbot 的人工智能转述工具重写。
他们发现,尽管这些工具识别 ChatGPT 文本的准确率为 74%,但当其生成的文本经过稍微调整后,准确率降至 42%。这表明,学生只需要稍微调整人工智能生成的文章,就可以通过检测工具。
谷歌专门研究自然语言生成的高级研究科学家达芙妮·伊波利托提出了另一个担忧。“如果要在教育环境中使用自动检测系统,了解其误报率至关重要,因为错误地指责学生作弊可能会对他们的学术生涯产生可怕的后果”。
培养 AI 的高级用户,ChatGPT或可实现与教育共存
一方面是ChatGPT不断完善,并逐渐向所有用户开放,受到学生大力热捧。一方面是学术造假引发争议,而AI检测工具尚不完善。ChatGPT究竟会给人类教育带来什么?我们应该把它当作朋友拥抱,还是当作敌人排斥,通过检测让其无处遁形。
南京师范大学道德教育研究所教授冯建军教授认为,在近百年的教育发展史中,每当新技术问世,都会引发社会担忧和学术争论。ChatGPT因其智能性,人们更加担忧它是否可能取代教师,甚至取代教育。
他认为,这种担忧就如同在问:当我们有了汽车、学会了开车,是否还需要学走路?当我们有了计算机,是否还需要学数学?而这些都只是人借助的工具而已,没有改变人。
面对ChatGPT的到来,盲目排斥的态度不可取。技术进步是社会发展的必然,是不可阻挡的。未来的教育,既不全是人的,也不全是ChatGPT的,而是人+ChatGPT,因此,教育必须谋求人与ChatGPT的共生共存。
可汗学院首席学习官Kristen DiCerbo曾言,“GPT-4 正在开辟教育的新领域。很多人对这种技术的梦想已经很久了。这是变革性的,我们计划负责任地进行测试,以探索它是否可以有效地用于学习和教学。”
香港中文大学和深圳大学的一项联合研究认为,ChatGPT不仅能够为学生提供个性化和定制化的学习体验,辅助学生的备考、翻译、背诵和编程等学习活动。还能帮助教师从一些简单的基础性工作中解放出来。对于教育测评和行政管理,ChatGPT 还能起到多种辅助作用。
而面对人工智能技术应用进程中可能存在的风险和消极影响,或可通过培养学生成为 AI 的高级用户,即以信息科技课程为载体,探索学生数字素养及 AI 素养培养的有效途径。同时也要促使教师成为人机协同的调停者,担当监护职责,及时规避 AI 对尚不具备专业知识和能力的学生产生误导。
另一方面,为兼顾AI在教育领域内应用的同时,避免触及伦理道德的红线。要启动监管技术,完善 ChatGPT 应用的伦理规范风险评估和治理体系。并在某一领域内达成规则共识,包括 ChatGPT 是否应该拥有署名权以及其工作量如何评判的问题。
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!