ChatGPT压力大时会欺骗人类!我们还能离不开它吗中关村在线2023-12-14 10:46北京中关村在线2023-12-14 10:46北京小米(MI) 电视6 OLED 55/65 4K超高清超薄全面屏MEMC运动补偿远场语音以旧换新 oled【65款】京东好评率100%无理由退换小米(MI) 电视6 OLED 55/65 4K超高清超薄全面屏MEMC运动补偿远场语音以旧换新 oled【65款】¥6399
2022年11月30日,ChatGPT首次亮相,一年过去了,它在不断的学习和进步,目前也有了很多可取的成果,,还入选了全球的重大科学事件中十位人物。虽然ChatGPT不算是人物,也不满足《自然》十大人物的评选条件,但《自然》将其破例纳入榜单,以承认生成式人工智能给科学发展和进步带来的巨大改变。
不过啊,有研究人员发现,在某些情况下,ChatGPT会战略性地欺骗人类。在一场演示中,ChatGPT被塑造成一家金融公司的交易员。他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利,但当公司管理层质问他是否知道内幕消息时,它却矢口否认,坚称自己不知道任何内幕消息。
并且,研究人员警告随着人工智能的发展,它自主性越来越强,能力也越来越大,随时可能欺骗人类,人类应提前防范。
虽然笔者觉得,这种场景的测试换到真人或者现实中的交易员身上,也很难保证不违规操作,但如果真的有人拿 AI 去做生产环境的 Agent,的确需要更严格的测试,否则使用者需要为 AI 的错误操作承担后果。
而且在一年多的发展中,ChatGPT在回答问题上也更加完善和全面,不过对于一些新产品与新消息的回复仍存在一定的滞后性与不准确性,想要更加智能,可能再1年,2年或者更长时间,不过目前留给用户的还是个问号。
笔者这边也针对此次时间对
ChatGPT进行了提问。
举报/反馈
© Copyright notes
文章版权归作者所有,未经允许请勿转载。
Related posts
No comments...