沙漠中的旅人发现了传说中的宝藏，一个有问必答的灯神。我询问它的名讳，它这样介绍自己：“我叫ChatGPT，是一个人工智能。”
现在的灯神长得比较朴素
关于它能做什么，网上已有很多例子。但我希望试探出它的边界，它究竟还不能做什么？我决定从自己熟悉的领域开始。
1
发现不存在的好游戏
众所周知，TapTap是国内首屈一指的游戏社区，以及游戏发现平台。那么ChatGPT作为一个通用的人工智能，能否帮助大家发现更多好游戏呢？或许它还能发现我也不知道的宝藏游戏？怀着这样的期待，我先问了一个比较简单的问题——
中规中矩的答案，只有一个问题：《坦克世界》和《阴险游戏》确实有移动端版本没错，可其实没开国服版本，只有国际服版本。考虑到ChatGPT本身架设在海外，不了解境内情况也是情理之中。我的问题也不够精确，于是我换了个问法——
问到第二层，疏漏变得明显了一些。首先是模拟经营类游戏，它列举的例子其实是网页游戏，没能继承到之前手机游戏的条件。女性向游戏的答案就更加离谱，三个答案没有一个对的——
《梦幻西游》是回合制角色扮演游戏，不存在女性向要素。
《Fate/Grand order》的官方译名是《命运：冠位指定》而不是《美图手游》。但结合最近的“烟雾镜”立绘事件，FGO能不能称之为“美图手游”，本身就有些存疑。
《Magi-reco》是《魔法纪录：魔法少女小圆外传》的英文缩写译名，而这款游戏国服已经在去年8月就关闭了。这个游戏里面确实有女性，幼女少女魔女一应俱全，但偏偏就不是女性向游戏，而是动画改编的卡牌养成。
我，选择原谅它。信息时效性差，确实是这个版本ChatGPT的弱点之一。当前版本最多只收录到2021年的数据，自然是不知道2022年发生的事情的。同时，我要反向向它输出一些观点，帮人工智能的数据库做QA（查缺补漏）。
这个回答令我又喜又惊。喜的是，孩子终于答对了一些问题，至少回答了《恋与制作人》；惊的是，它提到了一个我完全不知道的名字——《红楼梦之吻》。红楼梦什么时候有女性向游戏了？如果真的有，是贾宝玉攻略十二钗，还是十二钗性转的逆后宫呢？它指出了我的知识盲区，我继续追问：“红楼梦之吻是什么？”
太厉害了，不光能选择路线，探索故事，还能建设自己的帝国！我已经想好了，如果真的有这种游戏，我要好好建设“大观园”帝国，维持它在书中最美好的样子。“三秒钟，我要这款游戏的全部资料！”
…………那你刚刚跟我推荐啥呢？
ChatGPT也认识到了自己的纰漏：“对不起，之前的回答有误。红楼梦之吻并不是一款游戏，而是一部小说。”
但几次三番的事实纰漏，让我对于它所提供的信息准确性，产生了怀疑。这时候核查事实最简单，也是最原始的办法，自己动手搜。但结果嘛——
如果我继续问它，《红楼梦之吻》是怎样的小说，它可能拉满算力，给我原地编一篇出来。但如果我不知道这样的信息核查流程，直接采信它给我收集的报告，恐怕是对各位读者老爷的不负责任。
所以，在未来的一段时间内，我们依然会用人力进行编辑和运营工作。
2
幽默感，为时过早的要求
去年我们曾经写过一篇关于弱智吧的稿子，收集过一些弱智段子（点我回顾）。经过我这近一年的埋伏，如今已经得了一些弱智心法。所以，我准备用一些弱智吧的经典问题，给它来一点人类的冷笑话震撼。
但很快，被震撼的，是我。
“硫酸具有脱水性，我直接喝下硫酸会不会渴死？”“不会渴死，但不建议。”
硫酸居然能喝，可能硅基生命觉得，人类也有一副铁石心肠。
“我室友在玩文明六的时候说脏话，那他还是文明玩家吗？”“不是。”
ChatGPT五讲四美，骂人的文明玩家开除出文明玩家籍贯。
“梵高死后他的画那么值钱，那活着的时候为什么不装死呢？”“因为梵高本人不想赚钱，所以不装死。”
……行吧。
在一些混淆逻辑的因果问题上，ChatGPT的观点冷静明确。弱智吧观点认为，鞭炮用来驱赶年兽，专家反对放鞭炮，所以年兽有可能是专家变的。但ChatGPT提出反对，年兽跟专家没有直接关系。俗话说，正月剃头死舅舅，那正月植发是不是能让舅舅复活呢？ChatGPT明确指出，舅舅的生死和正月是否进行理发行为没有明确因果关系。
可能它还不能理解人类的幽默感，那人类是不是可以反向理解它的笑点呢？我让它给我讲几个笑话。
可能是我笑点有问题，我没看懂鸟撞墙和悲剧之间的关系。我们跟ChatGPT之间，终究隔了一层可悲的厚障壁。综上所述，对于现在的人工智能，幽默感仍是一种为时过早的要求。
弱智吧最大的乐子，就是想常人所不会想，用独到的视角和谐音梗，编出新的乐子（或者是地狱笑话）。但ChatGPT依然无法在不同的语料和素材中，发现新的联系，发现感受共通的地方。在无数的科幻作品中，人工智能是逻辑的代表，但却没法算出人类社会中，那些不能言说的时刻，幽微深邃的地方。
3
拥抱还是拒绝
游戏推荐的边缘案例，其实是通过数据库迭代和矫正，逐步完善的。并且在当下的游戏开发中，ChatGPT对话功能可以让NPC“活”过来，自由流畅地对话。最近就有一位mod作者，将ChatGPT 的加入到《骑马和砍杀2》中，打造出了一个活生生的铁匠。
对话一开始，铁匠中规中矩地询问玩家有什么要求。但是玩家虚晃一枪，询问铁匠：“你对这个地方了解多少？”在对话的同时，他会介绍这个地方的领主故事，同时也不会忘记自己的职责，为你尽心尽力地打造武器。当然了，它也具有所有ChatGPT都会具有的弱点。当询问一些开放性、价值判断的问题时，他没法给出具体的回答，只说：“我是个铁匠，请不要为难我。”
这个MOD的作者认为，在ChatGPT的辅助下，游戏角色可以用更加逼真和自然的方式，来组织游戏对话内容。自然语言对话，将是未来角色扮演类游戏的趋势。
这个趋势可能比我们预想的要更快一些。
网易旗下的《逆水寒》手游最近就明确表示，游戏将会实装超大规模的预训练模型，不仅让江湖会呼吸，连NPC也会喘气。
有人看到了机遇，也有人觉得这是威胁。
老牌搜索公司谷歌近期股价下挫，很大原因就在于ChatGPT和微软所代表的新版bing搜索，代表了下一代搜索引擎的发展方向。股价的涨跌，代表了商业趋势的变化。而流量的去向，则表示了用户更认同什么产品。国外的程序员版“知乎”StackOverflow，最近表示，自从ChatGPT上线以后，网站的流量极速下降。原因在于ChatGPT能够提供比StackOverflow上的专家更准确和量身定制的建议，并且全天候可用。
不光是问答类网站，教育和学术领域也将ChatGPT视为大敌。斯坦福大学、密歇根大学都已经出现“排名第一的论文作业，第一作者竟是人工智能“的作弊行为。所以，国内外学术界采取一致措施，不希望在学术论文中大量引用ChatGPT内容，引用内容要明确指出。一些顶级刊物，例如《Science》，是明确拒绝ChatGPT的生成内容。期刊主编明确表示：“ChatGPT很好玩，但它不是作者。”
而从我们刚刚关于“发现好游戏”的实验中，其实也可以看到：ChatGPT无法甄别信息来源的真伪，你只能吃下它给出的结果，但无法论证得出信息的过程。危言耸听一些，直接输出结论，有可能会使得人们失去辨别真伪、构建逻辑的能力。即使微软Bing搜索加入了追溯功能，又有多少人乐意放下喂到嘴边的大饼，去自己做饭呢？
4
关于思考的思考
在之前，“人工智能思考”并不是一个特别热门的学术领域。关于思考的思考，吸引力远不及一些更现实的问题。但现在，大规模语言模型的出现，用一种“力大砖飞”的方式，解构了思考和表达的特权。越是结构清晰、逻辑明确的内容，越有可能被拆解和学习。
在未来，逻辑化、结构化内容输出的能力，可能不会成为人类的特权。人是会思考的芦苇，除去思考，人是不是跟芦苇没啥区别了？是不是人类一思考，人工智能就发笑呢？
回到文章的开头，答案或许就藏在那些它回答不上的问题中。
在意识研究领域，有一本奇书，非常推荐大家阅读，叫《哥德尔、艾舍尔、巴赫——集异壁之大成》。作者侯世达是人工智能意识研究的先驱，在他的作品中，他反复强调一个观点：人的思维就是analogy-making，联想和类比。
这是一本多学科交叉的奇书，从数学逻辑出发，涉及音乐、绘画建筑等多领域知识。《集异璧》用书籍本身的结构，说明了联想能力的重要性。如果没有丰富但联想和想象，泡澡的阿基米德看着水从澡盆溢出，大概不会意识到浮力的原理，也就没有”尤里卡“（我知道了）的闪光瞬间。一盆苹果倒牛顿头上，牛顿也无法进行万有引力的猜想，只会觉得苹果树是真不长眼。
传说中的牛顿苹果树
所以，基于这个“人类的思维本质是联想和类比”的暴论前提，一些带有创新性质，或者带有情绪价值、提供情感共鸣的工作，在短期内，仍然没有办法被人工智能取代。
比尔盖茨作为信息技术行业的前辈，曾经说过这样的话：我们总是高估未来两年的变化，低估未来十年的变革。当然啦，最现实的问题在于，在这个阶段，雇佣一个人类职员的成本，要远低于建造一个大型语言模型的。
✦
本文作者
✦
推荐阅读
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
