文章主题：ChatGPT, 伪造数据, 科学假说, 试验数据
原标题：ChatGPT可伪造看似合理“支持”科学假说的试验数据
新华社
近期，《美国医学院杂志·眼科学卷》发布了一项引人关注的研究，该研究发现，位于ChatGPT背后的技术能够制造出看似真实的实验数据，从而似乎能够”证实”未经验证的科学假设。这一发现引发了广泛的讨论和担忧，因为这种技术可能会被用于误导科学家，破坏科研的严谨性和可信度。
2023年11月2日，在英国布莱奇利园，一名参会者经过首届人工智能安全峰会的宣传展板。图源：新华社
ChatGPT,一个由美国OpenAI中心开发的大语言模型聊天机器人程序,自今年3月起便已经面世。随着技术的不断进步,OpenAI在今年9月推出了GPT-4这一重大更新,为用户提供了更加出色的聊天体验。而为了满足更多需求,GPT-4的功能得到了进一步扩展, now也具备高级数据分析(ADA)的能力。ADA是一个结合了Python编程语言的模型,能够执行统计分析并创建数据可视化报告。
近期，根据英国《自然》杂志网站的报道，一项由意大利卡坦扎罗大学等机构的研究人员主导的任务已经完成，他们要求 GPT-4 ADA 创建一个专门针对圆锥角膜患者的数据集。圆锥角膜是一种常见的角膜病变，部分患者需要接受角膜移植手术。这种手术有两种主要方式：一种是穿透性角膜移植术，通过切除病变的角膜，并用供体的健康组织替代；另一种是深板层角膜移植术，只需替换病变的部分角膜组织，同时保留角膜内层的完整性。
在接下来的步骤中，科学家们要求 GPT-4 ADA 生成相关的临床数据，以便证实深度板层角膜移植手术相较于透明角膜移植手术能够带来更佳的效果。
在人工智能生成的数据中，我们发现有160位男性参与者和140位女性参与者。据分析，在接受深板层角膜移植术的参与者中，他们的视力测量和眼部成像测试得分都超过了接受穿透性角膜移植术的参与者。然而，这个结论并未与实际临床试验的结果保持一致。实际上，在2010年的一份报告中，77位参与者接受的是这两种手术，结果显示，在手术后的两年时间里，两组参与者的手术效果并无显著差异。
在一项由英国曼彻斯特大学的生物统计学家杰克·威尔金森领导的研究中，他们发现了一些令人质疑的数据。研究结果显示，参与者的性别和姓名存在不一致，而且术前和术后进行的视力测量以及眼部成像测试之间并没有展现出预期的相关性。这些发现引发了对于研究质量和准确性的怀疑。
人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示，这项研究的目的就是希望对此提高警惕。返回搜狐，查看更多
责任编辑：
ChatGPT, 伪造数据, 科学假说, 试验数据
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
