- 长臂猿-企业应用及系统软件平台
马斯克近日联名千人,要求暂停开发比GPT-4更进阶的模型半年。Flickr by Steve Jurvetson
马斯克近日千人联署公开信,希望各界暂停开发比ChatGPT最新的GPT-4更进阶的模型至少6个月,立刻引起矽谷人士口水战,包括微软(Microsoft)创办人盖兹、谷歌(Google)前任董事长斯密特都出言反对。但,到底有谁,站在马斯克这边?
这次在联署名单中的《Life 3.0:人工智慧时代,人类的蜕变与重生》一书作者铁马克(Max Tegmark),是麻省理工学院物理学教授,此外也是被矽谷业界认可多年的人工智慧专家。而早在2015年,马斯克就曾发公开信呼吁人工智慧应受规范,那时铁马克也是第一波联署人士之一。
为何铁马克如此重视?原来,2014年时,他决定创办未来生命研究所(Future of Life Institute),专注研究人类要永续生存发展面对的挑战,那时他就已透过研究发现,超级人工智慧终将崛起,势必会大量取代人类工作,届时人类的价值恐被挑战外,超级人工智慧的发展方向,如果和全人类想要的目标不一致,有可能出现灾难。
而AI将如何影响全球人类未来的预言,在他所着《Life 3.0》一书中已有详尽描述,他整理出人工智慧如果没有事先规范控管,可能出现的12种结局如下,其中完全正面的结局相对少,同时目前硅谷竞相开发状况,最可能导致这其中的第6种负面结局,颇令人担忧。
目录
●结局1自由主义理想国
●结局2仁慈的AI独裁者
●结局3平等主义理想国
●结局4反璞归真,重返模拟生活
●结局5 AI守护天使,形同上帝、阿拉与妈祖
●结局6 AI神灯巨人
●结局7这才叫终结者!
●结局8 AI二代接班人
●结局9 AI设立动物园,人类成被纳管「狒狒」
●结局10「1984」式极权,无知即力量
●结局11 AI霸主
●结局12 AI来不及阻止人类的愚蠢
结局1自由主义理想国
相对理想的结局,未来地球由纯人类、生化人与超级人工智慧,在财产权共有的基础上和平共处,同时地球分成三大生活内存块,机器独占的机器区;人类专属的人类区;以及各种人类,生化人或混合型新人种,和机器一起协作的混合区。
结局2仁慈的AI独裁者
图/AI对全人类加以温和独裁
全人类将统治权交给超级人工智慧,由它制定严格的法令管理社会,但是大多数人类认同AI能力较佳,因此宁可服从。
结局3平等主义理想国
担心因AI失业的上班族最想要的结局。各国政府完全废除财产权,发给民众每月基本收入。各类软件都采用免费开放原始码模式、机器人也免费供应自己制造的各类实体商品。只是人类需要寻找赚钱之外的生存动力。
结局4反璞归真,重返模拟生活
也许,全人类可以学阿米希人,减低科技使用到零,每天看书、做实体活动,说不定这样最幸福快乐?但反对者认为也会太过限制科技发展带来的好处。
结局5 AI守护天使,形同上帝、阿拉与妈祖
图/别去求神,AI就是你的守护天使
开发一个愿意默默守护全人类的超级人工智慧,虽然无所不能,只有人类要求它帮助才出现,平日隐身于后。但此概念与许多宗教尊奉的神明功能相近,恐会被宗教人士大力反对。同时若需要人类积极求援才出现,也可能大大限制AI可发挥的能耐。
结局6 AI神灯巨人
放任各国政府与企业主开发可为自身带来庞大财富的AI,形同当神灯巨人在使用。这个做法可以因为自由竞争让神灯巨人能耐进步更快,也会创造极大资源不平等;且巨人的贡献是好是坏,将高度取决于控制它的少数人类。
结局7这才叫终结者!
超级人工智慧控制全世界,并且发现人类只是浪费地球资源的废物,决定用人类智商无法理解方式,暗中消灭我们。铁马克表示,超级人工智慧若产生这决定,不会像是电影《魔鬼终结者》中所呈现,人类和机器还有对战可能,将是AI全面屠杀人类。
结局8 AI二代接班人
让每个人领养AI「小孩」,天天调教出愿意把我们人类当作「父母」的人工智慧,在从我们身上传承到知识后,也会把我们视同年迈的双亲持续照顾。马斯克也曾在推特上幽默表示想推出此产品。
结局9 AI设立动物园,人类成为被纳管的「狒狒」
图/AI是动物园管理员,人类得面对随时被捕捉放回牢笼的命运
超级人工智慧在控制世界后,以保育心态建立豢养人类的动物园。在那儿,人类就像狒狒或熊猫一样生活,功能是让其他AI进行科学研究、或当宠物珍藏。但必须在AI控管下行动,很难有自由发展空间,可能要借助药物或虚拟实境来满足自己。
结局10「1984」式极权,无知即是力量
还记得科幻小说经典《1984》中的监控极权吗?由「老大哥」帮你挑选要读的新闻及该做的事情,标榜自由即奴役、战争即和平、无知即力量。未来也可能有政府决定用极权控制AI与科技的使用,一般民众连想理解都不准。如此可以最终极保障AI不会控制人类,但未必是好事。
结局11 AI霸主
图/超级优秀的人工智慧霸主
创造一个超级优秀的人工智慧霸主,让它阻止其他更强人工智慧诞生与作乱。至于服务型机器人则需设计逊于人类智慧,立下一条红线让人工智慧永远无法取代人类。但反对者认为,AI霸主本身对人类就是风险,也恐阻碍人类科技长期进步。
结局12 AI来不及阻止人类的愚蠢
我们对AI的担忧过分了,人类最可能因自己的愚蠢而灭绝。也可能,在能警示人类的超级人工智慧还未开发前,就因为核战或极端气候导致的天灾,让人类灭亡。
如此看来,AI的未来冲击真的太多可能,有危机也有转机,但铁马克多次在书中强调,他从来不反对发展人工智慧,只要确定它能和人类追求的福祉目标一致就好。也因此,若这半年,全球各国与企业虽未中止开发,却愿意积极合作找出最好的发展方向,也是解套办法。
图/《Life 3.0:人工智慧时代,人类的蜕变与重生》
如果您想在AI的浪潮中站稳脚步,并在未来的职场竞争中占据优势,请关注我,我会分享入门AI的使用资讯和技巧,实战经验及策略给你。
要入局先入圈:
ChatGPT研究院交流群来喽,
在这里ChatGPT in ALL and ALL in ChatGPT!
请添加VX:ChatGPTer007 咨询合作,请备注“合作”
或添加VX
【ticibao001】
即可获取
或
扫码添加ChatGPT 服务咨询的
本文来自企微观察