世界百事通!深度人工智能对经济社会影响再反思——针对马斯克等千名科技人员叫停AI训练的评述

2023-04-11 13:04:05   来源:第一财经


(资料图片仅供参考)

自从ChatGPT、GPT-4问世并引发了一场席卷整个科技界的AI军备竞赛之后,人们在被人工智能的卓越能力所惊艳的同时,对于人工智能接下来会向何处进化、是否会威胁人类的担忧也越来越多。

马斯克等千名科技人士发公开信:暂停训练GPT-4及AI系统

当地时间3月28日,未来生命研究所(Future of Life Institute)网站披露了一封公开信,呼吁所有AI实验室立即暂停比GPT-4更强大的AI系统训练至少6个月。这封信由1000多人联名,其中包括知名企业家伊隆·马斯克、图灵奖得主约书亚·本希奥、《人工智能:现代方法》作者斯图尔特·罗素、苹果公司联合创始人史蒂夫·沃兹尼亚克等科技界领袖人物。他们对AI系统的担忧主要集中在两方面:其一,AI可能失控,给人类文明带来风险。其次,AI可能被恶意使用,造成错误信息传播或被用来犯罪。他们呼吁所有人工智能实验室应该至少暂停半年,接着,在暂停期间人工智能开发者应该与政策制定者合作,共同制定和实施一套先进的人工智能设计和开发的共享安全协议。信中还强调,暂停并不意味着需要停止人工智能技术的发展,只是我们需要从危险的竞赛中退后一步,从而限制不可预测的研究和开发。

千名科技人士呼吁叫停,不确定性正在挑战技术进步与投资者的信心

一方面,可能会在一定程度上影响模型的下一阶段开发训练。目前人工智能尚处于火热发展之际,这一呼吁可能会引起公众对于人工智能技术的更广泛的关注和讨论,众多优秀企业家以及科技界的领袖人物的态度会压制这个新兴行业的发展,人工智能程序化模型的商业化落地可能会因此受到影响。另一方面,可能会给市场带来负面情绪。马斯克等人作为目前科技界最有影响力的企业家之一,其他科技企业的企业家及投资者可能会受此事件的影响而产生顾虑,从而会对人工智能公司的股价产生一定的压力。

超级智能的崛起可能会引发未知的风险和威胁

不可否认的说,ChatGPT等大型语言模型可以为人类带来便利和效率,通过对话的形式与用户进行交互,更加方便和高效地满足用户的需求。但是,它们的出现也会给我们带来威胁。第一,可能引发一系列的社会问题。人工智能程序依托巨量数据资源和强大的学习能力,可以比人类更高效地完成机械的重复类工作,无疑会对软件技术类、新闻媒体类、法律工作类、市场研究分析师、教师等职业产生淘汰作用,从而引发产业结构变革,倒逼现有人才结构的前瞻性调整。此外,在就业上的不平等,会导致社会财富收益权的不平等,更多掌握人工智能技术的企业或个人能够获得社会财富更大的分配权,从而增大社会贫富差距。第二,可能伴随隐私和伦理问题。人工智能的高速发展可以收集用户的个人信息和历史记录,这可能会导致用户的隐私泄露和安全问题。此外,人工智能也可能被黑客攻击或滥用,导致用户的信息和财产受到损失。这种安全隐患可能会影响用户的信任和使用意愿,也需要平台和监管机构的注意和监督。第三,可能会对人类生存带来的毁灭性威胁。在《黑客帝国》等好莱坞巨作中不乏“机器人统治人类”的题材设定:人工智能程序突然觉醒了自我意识,与人类展开了一场你死我活的生存较量。尽管这样的担心尚且为时过早,但是随着预训练大模型技术的不断丰富,隐藏于人工智能系统背后的模型也会越来越复杂和庞大。在取得惊人进步的同时,是否意味着人工智能真的有可能产生像人类一样的意识并威胁人类社会的安全?

立足当前,积极应对人工智能的飞速发展

首先,在法律和技术层面加强监管和规范。未来人工智能发展到一定阶段,不断地向人类生产生活逼近,会更多涉及伦理道德问题,这势必需要政府、学术界和企业付出不断的努力,通过制定更加严格、合适的法律制定来引导人工智能健康发展。只要人工智能的发展是在规范合理的约束下进行的,风险就是可控的。其次,提高安全标准,推行人工智能产品安全认证。可靠的人工智能系统应具有强健的安全性能,避免因异常操作和恶意攻击而导致安全事故。这一方面需要提高人工智能产品研发的安全标准,考虑到其可能出现的安全漏洞和攻击方式,并采取相应的措施来保护其安全性;另一方面要推行智能系统安全认证,对人工智能技术和产品进行严格测试,增强社会公众信任,保障人工智能产业健康发展。第三,加强理论攻关,密切关注大数据和人工智能技术的发展。一方面,要倡导学术自由,支持人工智能的研究与开发,并在研究前期保证资金与人力的投入,尽可能抢占发展先机;另一方面,人工智能的变革十分迅速,需要不断地深入学习和了解大数据和人工智能技术的应用情况,清醒认识到它们的重要性。和其他任何科技的发展一样,人工智能也具有两面性,既能给人类带来巨大的财富,也可能带来不可预知的灾难。人工智能由人类创造,无论人工智能引发什么样的问题,解决这些社会问题的办法仍然在人类手中。

(王鹏为北京社科院研究员,南昌理工学院数字经济研究院院长)

标签:

相关阅读

焦点速递!机构抄底忙 游资出手阔 ChatGP

要闻

今年最牛板块ChatGPT概念股昨日集体大跌,ChatGPT指数单日跌幅创历史之最。不过,在板块内个股普遍调整的同时,龙

2023-04-11

世界百事通!深度人工智能对经济社会影响再

要闻

自从ChatGPT、GPT-4问世并引发了一场席卷整个科技界的AI军备竞赛之后,人们在被人工智能的卓越能力所惊艳的同时,

2023-04-11

环球短讯!存、贷款利率又要下调了吗?

要闻

从监管趋势来看,存款利率下调是央行推动实体融资降成本的改革必经之路。回顾我国利率市场化改革进程,并结合当前银行经营情况和

2023-04-11

全球微动态丨阿里云将与OPPO、吉利汽车等在

要闻

在今天的阿里云峰会上,阿里云宣布将与OPPO安第斯智能云、吉利汽车、智己汽车、奇瑞新能源等多家企业在大模型相关场景展开技

2023-04-11

环球最资讯丨午间重大事件汇总

要闻

【时事新闻】①中国3月CPI同比上涨0 7%环比下降0 3%;中国3月PPI同比下降2 5%环比持平;②国家市场监管

2023-04-11

焦点速递!机构抄底忙 游资出手阔 ChatGPT概念行情还能继续吗?丨焦点板块

要闻

今年最牛板块ChatGPT概念股昨日集体大跌,ChatGPT指数单日跌幅创历史之最。不过,在板块内个股普遍调整的同时,龙

2023-04-11

世界百事通!深度人工智能对经济社会影响再反思——针对马斯克等千名科技人员叫停AI训练的评述

要闻

自从ChatGPT、GPT-4问世并引发了一场席卷整个科技界的AI军备竞赛之后,人们在被人工智能的卓越能力所惊艳的同时,

2023-04-11

环球短讯!存、贷款利率又要下调了吗?

要闻

从监管趋势来看,存款利率下调是央行推动实体融资降成本的改革必经之路。回顾我国利率市场化改革进程,并结合当前银行经营情况和

2023-04-11

全球微动态丨阿里云将与OPPO、吉利汽车等在大模型场景开展合作

要闻

在今天的阿里云峰会上,阿里云宣布将与OPPO安第斯智能云、吉利汽车、智己汽车、奇瑞新能源等多家企业在大模型相关场景展开技

2023-04-11

环球最资讯丨午间重大事件汇总

要闻

【时事新闻】①中国3月CPI同比上涨0 7%环比下降0 3%;中国3月PPI同比下降2 5%环比持平;②国家市场监管

2023-04-11

环球消息!王丕达:3400点位置面临重要压力 个股分化将进一步加剧|就市论市

要闻

东海证券王丕达表示,获利回吐和技术面压力共振导致昨日A股放量下跌,3400点面临重要压力,个股分化将进一步加剧。行业方面

2023-04-11

23股主力资金净流入超1亿元

要闻

今日盘中,23股主力资金净流入超1亿元,人工智能方向强势反包,资金慕强追涨动能十足。浪潮信息获净流入逾5亿元居首,同方股

2023-04-11

热门:24股主力资金净流出超1亿元

要闻

今日盘中,24股主力资金净流出超1亿元,场内抛压骤降,但中字头、新能源被AI+吸血态势仍较显著。五粮液、国联股份遭减仓超

2023-04-11

国家市场监管总局部署2023年度重点立法任务

要闻

据市场监管总局消息,国家市场监管总局部署2023年度重点立法任务,其中提出,深入实施公平竞争政策,不断优化公平竞争环境,

2023-04-11

商汤科技发布“日日新”AI大模型体系

要闻

“大模型+大算力”是商汤科技在通用人工智能领域,确定的发展战略。在这个战略下,公司推出了自然语言处理、内容生成、自动化数

2023-04-11

遇见旗袍是于万千人群中的惊鸿一瞥 沿途洒满了爱的芬芳

旗袍,中国和世界华人女性的传统服装,被誉为中国国粹和女性国服。虽然其定义和产生的时间至今还存有诸多争议,但它仍然是中国悠久服饰文化

北京市电影院有序恢复开放 周五预售部分场次已满座

7月21日,北京市政府发布《北京市电影局关于在疫情防控常态化条件下有序推进电影院恢复开放的通知》,宣布全市低风险地区影院,可于7月24日

近期持续强降雨影响 第46届武汉渡江节因长江水位过高取消

武汉7·16渡江节组委会14日发布公告,由于长江武汉关水位超警戒水位,按照规定取消2020年第46届武汉7·16渡江节。受近期持续强降雨影响,

“非遗”普及受众最看重“动手”参观大师工作室非常享受

过去一段时间,国家级非遗项目灰塑传承人邵成村,多次在陈家祠等工作现场,向身边那些带着好奇目光的人们讲解灰塑的种种技术细节:草根灰、

璧山冷酒夜市 丰富市民夜间文旅活动

7月13日,位于璧山区南门唐城夜市街区的璧山冷酒夜市开街。这是璧山区打造夜间经济消费载体、培育夜间经济活动品牌的举措之一。璧山市民一

年内两市超过500家上市公司完成回购 累计回购金额超332亿元

近期A股市场持续震荡,不少上市公司或其重要股东推出回购、增持计划,用真金白银力挺股价。记者根据同花顺数据统计,今年以来,两市超过500

持续发力补链强链加大研发抢占市场 渝企跑出“加速度”

玥湖路渝快电充换电站 一辆新能源汽车,离不开研发、动力、配套等多个环节。作为汽车制造重镇,重庆在这些环节的多个板块上,正在加速奔跑

重启上市公司资本运作 康佳集团去年半导体业务营业收入为3.22亿元

近日,康佳集团正式对外发布2021年年度业绩报告。2021年,康佳集团实现全年营收491 07亿元,归属于母公司的净利润为9 05亿元,同比增长89 5

伟禄集团连续6年增长 去年营收同比增长37.5%

深港通标的之一的深圳企业伟禄集团近日公布2021年业绩。财报数据显示,伟禄集团全年营业收入11 95亿港元,同比增长37 5%,连续6年稳步增长;

龙头企业去年净利倍增 整个行业营收规模有望创造历史新高位

近日,面板龙头TCL科技、京东方分别发布2021年度业绩快报,两家企业去年归属于上市公司股东的净利润分别增长129 3%、412 86%,实现超过百亿

深圳国企全力为市民 守好“菜篮子”“米袋子”保障量足价稳

疫情防控形势下,民生物资供应是否充足成为市民最为关注的问题之一。连日来,深农集团、深粮控股等企业,充分发挥国企担当,全力为深圳市民