ChatGPT的“智能”与“威胁”

AIGC与创业1yrs ago (2023)update lida
135 0 0

本报记者 秦枭 北京报道

ChatGPT发布以来,相关话题层出不穷。最初,人们惊喜于ChatGPT带来的便利,纷纷赞扬其智能和高效。然而,随着时间的推移,人们开始对ChatGPT能够取代普通内容创作者的焦虑所困惑。近日,AI威胁论再次被谈起。

实际上,人工智能威胁人类的话题已经是老生常谈了。自1997年AI国际象棋世界冠军卡斯帕罗夫被击败以来,2011年AI赢得了《危险边缘》智力节目冠军,2016年AI又击败了前围棋世界冠军李世石,这些事件引发了人们对人工智能可能对人类构成威胁的担忧。然而,随着AI技术的不断发展和进步,这种担忧也逐渐减轻。

多位业内人士在接受《中国经营报》记者采访时表示,越来越强的算力确实意味着更大的数据和隐私风险,人工智能可能会对某些行业和领域产生负面影响。随着监管的接入,可能会对某些领域的Al热产生一定的影响,但并不意味着此轮的Al热即将退去。事实上,在技术和产业的演进过程中,监管的加强和退出是常见的现象。

越智能越危险?

目前,作为生成式AI代表的ChatGPT已经迭代到4.0版本,其回答准确性不仅大幅提高,还具备更高水平的识图能力,能够生成歌词、创意文本,实现风格变化。此外,GPT-4的文字输入限制也提升至2.5万字,且对于英语以外的语种支持有更多优化。

相较于GPT3.5,GPT-4的最大进化在于“多模态”和长内容生成,最大的突破是拥有了“读图能力”。相关资料显示,与初代GPT模型的参数是1.17亿个相比,GPT-4的真实参数在1750亿~2800亿个之间,重点在数据处理优化上。有专家预测,未来会出现文字、图像、音频和视频等所有数据统一处理的新变革。

越来越强的算力意味着更大的数据和隐私风险,与初代GPT3.5给人们带来的惊喜不同,随着GPT-4的发展,一些担忧的声音也开始出现。

今年3月,特斯拉创始人马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等科技界大佬共同签署了一份公开信,警告AI系统可能对社会和人类构成深刻的风险。他们呼吁暂停开发更强大的AI系统,并制定并实施一套共享的安全协议。这一事件引起了广泛关注,成为了科技界关注AI安全的重要里程碑。

天使投资人、知名互联网专家郭涛表示,相较于GPT-3.5,GPT-4在模型参数规模、训练数据量、自然语言处理任务性能以及多模态任务处理等方面均有显著提升。然而,GPT-4也面临着更加严峻的数据安全、隐私保护以及不当滥用等问题。

商务部研究院电商研究所研究员洪勇认为,人工智能可能会对某些行业和领域产生负面影响,如某些传统行业和低技能劳动力将会被替代。此外,人工智能的发展还需要考虑隐私、安全、伦理等方面的问题。洪勇指出,人工智能可能会受到算法、数据、硬件等方面的限制,导致其性能和效果受到影响。同时,人工智能还存在被黑客攻击、病毒感染等方面的风险。

值得注意的是,上述担忧并不是毫无根据,根据网络安全公司Darktrace的最新研究报告,攻击者使用生成式AI技术,通过增加文本描述、标点符号和句子长度,对社会工程攻击量进行了135%的增长。同时,OpenAI官方在3月份发布的调查报告显示,有1.2%的ChatGPT Plus用户可能数据被泄露。这些报告引发了人们对于AI技术安全的担忧,同时也提醒我们在使用AI技术时需要进行充分的安全和隐私保护。

各国的监管部门也开始关注ChatGPT的安全性。3月底,意大利数据保护局率先行动下线了当地的ChatGPT服务,随后,欧洲多国与美国相继宣布出手调查ChatGPT。近日,国内也出台了相关文件,表示将对人工智能加强监管。

洪勇表示,随着 GPT 技术的演进,从 3.5 演进到 4.0 可能会引起更多的监管关注,包括数据隐私和安全、技术风险等方面的问题。这也说明了在技术的演进过程中,需要充分考虑到安全和隐私等问题,并采取适当的措施来保障公众的利益和安全。因此,在推进 GPT 技术的过程中,需要充分考虑安全和隐私等方面的问题,并采取适当的措施来保障公众的利益和安全。

名不副实?

即便如此,也未能让AI热“降温”。各个互联网大厂也随着这股热潮推出自己的大语言模型工具。在海外,微软在New Bing中整合了ChatGPT,谷歌发布了Bard;在国内,百度推出文心一言,阿里也将推出“通义千问”。除此之外,腾讯的“混元”、华为的“盘古”、京东的“言犀”、字节跳动的自研大模型、科大讯飞的“1 N”认知智能大模型、浪潮的“源1.0”都将陆续登场。

此外,在A股资本市场,这一热潮也在延续。4月20日下午,初代ChatGPT热门股集体走强,万兴科技(300624.SZ)涨超10%,云从科技(688327.SH)涨超8%,科大讯飞(002230.SZ)涨超7%,汉王科技(002362.SZ)、拓尔思(300229.SZ)等也明显走升。

洪勇认为,随着监管的接入,可能会对某些领域的Al热产生一定的影响,但并不意味着此轮的Al热即将退去。事实上,在技术和产业的演进过程中,监管的加强和退出是常见的现象。这也说明了,监管的加强有助于规范和保障Al热的健康发展,推动产业升级和创新。

值得注意的是,A股人工智能板块在年初以来备受市场追捧,但相关个股在资本市场的表现与公司基本面的严重背离。

作为ChatGPT概念股,云从科技股价今年以来持续走高,最高涨幅已接近180%,但截至4月20日,云从科技股价仅为43.87元/股,较4月4日其达到的最高点跌去30%。同时,云从科技的业绩表现也不尽如人意。4月17日,云从科技发布了2022年年报,显示去年营收5.26亿元,同比下降51.06%,归属净亏损则同比扩大37.5%至8.69亿元。虽然股价表现不如预期,但云从科技仍是一家值得关注的企业。

ChatGPT概念最先收益的一批企业,如汉王科技,其股价经历了一段疯狂的涨跌,1月20日收盘价为16.74元/股,截止到4月20日收盘价为27.31元/股,区间累计涨幅为63%。市值也增加了66.8亿元。然而,汉王科技发布了2022年年报,显示其营业收入及净利润均下降。2022年度营业收入为14.01亿元,同比减少13.19%。

AI大模型、AIGC等人工智能相关概念热度的日益升温,人工智能概念相关的大模型、芯片与算力、数据等领域已经出现泡沫化现象。相关概念股股票大涨,初创企业估值虚高,企业扎堆涌入,市场存在股价大幅回调、资本热潮日趋降温、市场竞争加剧风险,行业投资者、创业者以及相关的从业者需要警惕风险。

与此同时,郭涛也提醒道,当前全球范围内对于人工智能技术的监管力度正在持续加大。各国政府纷纷加快建立或完善人工智能研发与应用相关法律法规、标准体系和伦理道德规范,进一步加强对科技企业、应用场景、使用者等方面的监管。随着全球监管要求的日益趋严,人工智能行业将逐步进入冷静发展期,热潮或将有所降温。

(编辑:张靖超 校对:颜京宁)

人工智能(AI)的发展和应用引起了广泛的关注和讨论。以下是一些可能有用的关键词:

1. GPT-4:生成式语言模型,ChatGPT是其中的一种。

2. 算力:计算能力是衡量人工智能系统性能的重要指标之一,包括GPU、TPU等硬件和大型分布式系统。

3. 隐私:人工智能系统可能会收集和存储大量数据,如何保护用户隐私成为需要考虑的问题。

4. 安全:随着人工智能系统越来越复杂和多样化,如何保证其安全性和可靠性成为需要考虑的问题。

5. 伦理:人工智能系统可能会对社会、人类产生深远的影响,如何平衡技术发展和应用需要考虑伦理问题。

6. 监管:人工智能技术的应用需要监管,包括法律法规、标准体系等。

7. 机器学习:机器学习是人工智能的核心技术之一,如何设计合适的算法、提高其准确性和鲁棒性需要考虑。

8. 深度学习:深度学习是机器学习的一种形式,包括卷积神经网络、循环神经网络等。

9. 数据:人工智能系统需要大量的数据进行训练,如何收集和处理数据、保证数据质量和多样性需要考虑。

10. 开发者:人工智能系统的开发者需要掌握多种技术,包括机器学习、计算机视觉、自然语言处理等。

© Copyright notes

Related posts

No comments

No comments...