深圳热线

马斯克等千名科学家签署公开信呼吁暂停大型AI训练 人工智能概念明显回落

2023-03-29 18:23:24 来源:证券时报

一封公开信,突然引爆全球科技圈!


【资料图】

3月29日,未来生命研究所(Future of Life Institute)的一封公开信,在全球科技圈引发热议。信中呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。截至目前,这封信已有超过1000名科技领袖和研究人员签名,其中包括,马斯克、苹果联合创始人史蒂夫沃兹尼亚克等。

令人玩味的是,3月29日下午,有网友发现OpenAI CEO Sam Altman的名字也出现在“呼吁暂停大型AI训练”的公开信上。但据媒体报道,Sam Altman的名字曾短暂出现后,便迅速从签名者名单中消失。

当日午后,A股市场一度爆火的人工智能概念集体哑火,掌阅科技大跌超5%,昆仑万维、川大智胜、中文在线等热门股集体转跌,海天瑞声、光云科技的涨幅亦明显收窄。有机构提示,除了留意板块的交易拥挤度提升带来的波动风险外,高位股回调也是一个值得关注的风险。

“立刻暂停AI研究”

超级火爆的人工智能,正在科学界引起了广泛的警惕和担忧。

3月29日,未来生命研究所(Future of Life Institute)的一封公开信,在全球科技圈引发热议。信中呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。

信中写道,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险,这一观点得到了顶级人工智能实验室的承认。

需要指出的是,这份题为《暂停巨型AI实验》的公开信发布于23日,于29日解封。

据官网介绍,生命未来研究所创立于2014年,位于美国波士顿,是一个非营利组织。该研究所成立的目的一方面是为了促进对“未来乐观图景”的研究,一方面则是为了“降低人类面临的现存风险”。其中,在开发与人类相当的人工智能技术过程中出现的风险,是该所关注的重点。

该机构在信中指出,只有当确保强大的人工智能系统的效果是积极的,其风险是可控的才能继续开发。人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。

当地时间3月28日,据路透社报道,截至目前,这封信已有1000多名科技领袖和研究人员签名,其中包括马斯克、苹果联合创始人史蒂夫沃兹尼亚克、Stability AI首席执行官Emad Mostaque、谷歌旗下DeepMind的研究人员,以及AI重量级人物 Yoshua Bengio和Stuart Russell呼吁暂停高级AI开发,直到此类设计的共享安全协议由独立专家开发、实施和审核。

据美国《时代周刊》报道,截至当地时间周二,没有OpenAI员工在这封信上签名,尽管CEO Sam Altman的名字曾短暂出现,然后从签名者名单中消失。报道指出,暂时无法验证所有签名都是真实的。

值得一提的是,OpenAI CEO Sam Altman在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。

同时,被称为“人工智能教父”的杰弗里·辛顿(Geoffrey Hinton),在最新的采访中表示,人工智能可能发展到对人类构成威胁“并非不可想象”的地步。

另外,AI“大牛”盖瑞·马库斯28日发表题为“人工智能风险≠通用人工智能风险”的文章称,超级智能可能会也可能不会迫在眉睫,但在短期内,需要担心“MAI(平庸人工智能)风险”。随后,特斯拉创始人马斯克在推特上表达了对辛顿、马库斯观点的赞同。

当地时间3月27日,欧洲刑警组织发表题为《ChatGPT-大型语言模型对执法的影响》的报告称,人工智能聊天机器人ChatGPT可能被滥用于网络钓鱼、宣传虚假信息以及网络犯罪,这加剧了外界对这一新兴事物在法律、道德等方面的担忧。

突然跳水

回到市场层面,3月29日早间,A股市场的人工智能板块一度大爆发,海天瑞声盘中暴涨20%,创出历史新高,年内涨幅一度扩大至352%。

但当日午后,人工智能概念大幅回落,掌阅科技大跌超5%,昆仑万维、川大智胜、中文在线等热门股集体转跌,海天瑞声、光云科技的涨幅亦明显收窄。

随着人工智能的火爆,市场资金也疯狂涌入相关个股。据中信证券统计,上周之前,TMT板块的日均成交额达到2400亿元左右,占A股成交量的28.41%。而3月20日至27日期间,板块的日均成交额则超4400亿元,全市场占比达到了43.13%。

另外,数据显示,今年以来,场内杠杆资金持续加码A股,分行业来看,融资净买入最高的正是TMT板块,年内累计净买入已达到200亿元,该行业目前融资余额已超过1000亿元,排在A股全行业的第五位。

中信证券提示风险称,对于高交易拥挤度的板块,在享受其短期赚钱效应的同时,不妨也“留一分清醒”,既要关注长期的市场空间,也要留意短期的情绪溢价。除了留意板块的交易拥挤度提升带来的波动风险外,高位股回调也是一个值得关注的风险。

另外,华创策略的最新报告指出,当前TMT成交额占比已处2010年以来94%分位,历史上强势主题交易热度快速上升,警惕短期触顶后的回调风险。AIGC行情已经处在拔估值第一阶段尾声,AIGC 交易已明显过热,基本面尚不明朗的背景下,对相关板块超额收益的判断仍需谨慎。

关键词:

热门推荐