🌟ChatGPT的崛起,引发了对它能否颠覆传统搜索引擎的热议。虽然短期挑战重重,但预计它会加速行业转型,未来搜索引擎或将融合传统与创新力量,形成以ChatGPT为主辅的新格局。谷歌等巨头的AI研发投入预计将显著增强。🔍ChatGPT在用户体验上的飞跃,确实超越了传统搜索,然而数据更新不实时、高昂的成本(约1.3美元/条)和信息真伪难辨等问题仍存在挑战。💡技术的进步有望缓解部分问题,如结合传统搜索引擎优化,但成本降低还需时间。它无疑推动AI产业加速发展,引领内容生成新时代的到来。🔥
▍报告缘起:
🌟ChatGPT的崛起,让“取代传统搜索引擎”的话题热度飙升!🔥2022年11月30日,OpenAI团队的力作ChatGPT震撼登场,仅两个月就收获了超1亿DAU和20万MAU的惊人数据。💬它以对话形式,应对日常问题无微不至,记忆力与篇幅升级,让回答更全面深入。相较于前辈GPT3,ChatGPT展现出了强大的多轮对话能力和深度知识挖掘,每个答案都仿佛能从多个维度剖析,让人眼前一亮!🔍在内容搜索的战场上,ChatGPT的强大表现引发了业界对这一颠覆性变化的深思。🤔传统搜索引擎巨头们是否面临挑战?又将如何应对?本报告将深入探讨ChatGPT的技术潜力与可能带来的市场影响,揭示它对搜索引擎行业的未来冲击和变革。🚀让我们一起期待这场技术革命的精彩演绎!🏆
🌟ChatGPT引领未来搜索新风尚:通过融合AI与用户互动的智慧迭代,它在GPT3.5的基础上实现了深度学习升级,显著提升了问题到答案的无缝对接精度。🔍相较于传统搜索引擎,其强大的智能算法和人性化交互设计,为用户提供更精准、个性化的搜索体验。🏆探索无限可能,ChatGPT正引领一场信息检索革命!
🌟🚀OpenAI’s AI refinement journey involves fine-tuning a GPT3.5 model, harnessing the power of Human Feedback RLHF 🤖📚. A meticulous process begins with human experts crafting around 12k-15k Q&A pairs, serving as an initial foundation for pre-training. Next, SFT, the trained model, generates responses to fresh queries, followed by expert evaluation to rank them. The rewards are then shaped into RM, a refined reward model, through pair-wise comparisons. This rewarding system is further honed on a larger dataset, with iterations refining SFT until the ultimate masterpiece emerges. 🚀🏆
🌟经过一系列优化,我们欣喜地看到ChatGPT模型在问题理解和回答的精准度上实现了显著提升!据Deepmind透露,相较于传统搜索引擎仅仅提供链接,ChatGPT不仅能快速生成针对问题的高价值答案,并附带权威引用链接(👀),这一创新功能让搜索体验升级。特别是在开放式问题面前,它能基于网络数据生成深入且全面的答案,对知识和创意领域的问题处理,ChatGPT的表现堪称卓越,远超传统搜索引擎的常规表现`(🔥)`。
▍ChatGPT取代传统搜索引擎:中短期可能性较低。
尽管ChatGPT能大幅优化用户的搜索体验,但要取代传统搜索引擎仍然面临几个关键技术瓶颈。
🌟ChatGPT数据更新挑战:实时性难题与技术限制💡面对中英文版本数据时间差的问题,ChatGPT的数据更新速度受到了显著的语言大模型技术瓶颈的影响。🔥由于其依赖于复杂的标注数据训练模式,即时接入新信息的流程相当繁琐,每次大规模预训练所需的GPU资源(A100显卡)和时间成本高达百万美元,耗时长达半个月至一个月!🚀相比之下,微调策略虽然能快速适应新知识,但可能过度强调权重,导致模型对旧内容的记忆力受损——这被称为“知识遗忘”。🔥频繁的调整可能会干扰ChatGPT长期稳定的学习过程。🔍优化路径:寻找更高效的数据同步机制和训练方法,以保持ChatGPT在信息洪流中的即时性和知识结构的平衡,是未来需要解决的关键挑战。🚀
2)数据的真实性仍不足可靠。在大量的测试后我们发现,虽然ChatGPT回答问题的准确性有所提高,但如果提出的问题较为模糊或者本身包含部分错误信息在内,模型有可能以“一本正经”的语气生成完全错误甚至凭空捏造的回答。真假答案的混杂会让用户在需要对专业性问题寻求答案时产生严重的困扰,这也是目前语言类大模型普遍存在的问题。据CSDN微信公众号报道,2022年11月几乎同一时间上线的Meta服务科研领域的语言类大模型Galactica就因为真假答案混杂的问题,测试仅仅3天就被用户投诉下线。
3)模型在线推理端成本高昂。根据模型的现有数据,我们假设每次生成的回答长度平均为50个词,使用8x英伟达A100用于推理的情况下,我们估算ChatGPT每一次生成答案的成本约为1.3美分,约为谷歌搜索引擎每次搜索成本的3倍。如果每天面对数以亿计用户的搜索请求,如此高昂的成本是公司所不能承受的,中短期内完全取代传统搜索引擎在商业模式上无法做到。
▍搜索引擎产品演变:传统搜索引擎为主+大语言模型为辅相结合。
目前ChatGPT的技术路径难以在较短时间内解决搜索成本的问题,因此从分场景限制用量的思路出发,我们认为中短期内ChatGPT可以通过部分技术改进辅助传统搜索引擎实现用户体验大幅提升。
1)考虑到ChatGPT在不同分类问题中的表现情况,限制ChatGPT搜索仅在知识类搜索场景下启用可以有效控制成本。
2)面对时效类问题时,模型自动判断转向传统搜索引擎生成答案,并通过传统搜索引擎的数据返回生成ChatGPT版本的汇总新答案。
3)针对回答真实性问题,加入对答案产生来源的引用注明给用户,让用户可以快速检验回答的可靠性。
总的来看,通过一些小技术的革新(大部分已经出现在了其他大语言模型中,只需要借鉴)就可以让ChatGPT成为一个合格的辅助搜索引擎。不过成本的问题短期内暂时看不到太好的解决方法,这也给了目前的搜索引擎巨头充足的时间以应对Chatgpt会带来的冲击。
搜索巨头如谷歌以及百度均在大语言模型上有深厚的积累,尤其是谷歌拥有与ChatGPT相似的对话类模型Sparrow以及Lamda,其部分技术更是在ChatGPT上有所突破,包括使用了多个RM模型以应对不良信息的产生以及加入了新知识迭代优化的相关思路。预计ChatGPT的成功不会给搜索产业带来颠覆性的新入局者,但会推动谷歌等搜索巨头加快迭代大语言模型辅助传统搜索引擎的新格局。
谷歌在最新一季度的财报电话交流会中表示:“谷歌将在未来几周或几个月正式推出类似ChatGPT基于大语言模型的人工智能。这种人工智能将以搜索伴侣的形式辅助其传统搜索引擎。”不过我们认为大语言模型的加入也会影响到中期谷歌等巨头的搜索业务利润空间。在平均每个用户生成50个单词的假设下,我们预计到2023年如果有10%的搜索结果由大语言模型生成,将会给谷歌每年带来约12亿美元的额外运营成本。
▍风险因素:
AI核心技术发展不及预期风险;科技领域政策监管持续收紧风险;全球宏观经济复苏不及预期风险;宏观经济波动导致欧美企业IT支出不及预期风险;全球云计算市场发展不及预期风险;企业数据泄露、信息安全风险;行业竞争持续加剧风险等。
▍投资策略:
受制于信息更新、回答准确性、算力成本等层面因素的综合约束,ChatGPT中短期内取代传统搜索引擎的概率较低,但料将加速搜索引擎产品演化进程,并在中期形成以传统搜索为主、ChatGPT类模型为辅的新搜索引擎形态,倒逼传统搜索厂商不断加大AI领域投入,同时鉴于目前全球搜索引擎的市场格局,份额较小的微软Bing最有可能率先实验大语言模型的实际应用,谷歌等头部厂商亦将大概率被动跟随。ChatGPT产生的鲶鱼效应,料将推动全球AI产业化进程的全面提速,以及AI生成内容时代的全面到来。
本文源自金融界
AI时代,掌握AI大模型第一手资讯!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
扫码右边公众号,驾驭AI生产力!