第一百零九章 EI三定律

类别:科幻灵异 作者:痴鲸字数:3368更新时间:22/07/16 19:50:08
ps. 奉上五一更新,看完别赶紧去玩,记得先投个月票。现在起-点515粉丝节享双倍月票,其他活动有送红包也可以看一看昂!

“丹尼,此刻你在想什么呢?会不会为那场对话感到后悔?”

硅谷某处公寓的客厅里,正在看ijcai现场直播的马斯克问哈萨比斯。

马斯克神色复杂地说:“看,从今天起,谁再说ai,别人都会问‘你是说ei,还是说那种跟人平起平坐,我们不知道该怎么看待它们的ai?’,夏只是改了一个字母,就统治了这个领域的话语权。”

“我后悔的是,或许那时候该认真跟他讨论一下deepmind的收购问题……”

哈萨比斯苦笑着说:“我相信,他现在这些见解,包括神经元芯片和人工智能编程体系,有不少灵感来自于和我的对话,而ei这个概念,也是我们后半截对话的焦点。”

“我怎么也想不到,他是认真的!他的所有努力,都是为了防范他预想那些最坏的结局,他……”

哈萨比斯感慨道:“他才是真正的科学家,有信仰的科学家。”

“或许吧,不过这里有个问题”,马斯克说:“也是最关键的问题,如何确保夏所说的ei,就是人类智慧的扩展?”

正说到这,屏幕上,夏鸣不在意“ei”这个概念是否马上得到认同,继续抛出问题:“大家会问,要如何确保ei是人类意志的延伸呢?不解决这个问题,ei不还是以前的ai吗?”

“夏不是演说家”,哈萨比斯笑笑,马斯克尴尬地摸摸鼻子。但这尴尬也马上消散了,和哈萨比斯一样,他也全神贯注地等待夏鸣的后文。

“我们无法彻底解决这个问题,但我们可以从技术上无限趋近答案,并且让偏差只限于我们人类这个集里。也就是ei永远只能趋近于人类意志,而不完全等于人类意志。同时。ei也不可能跳出,或者超出于人类意志。”

“基于这一点,我们提出了‘意志映射’(vm)这个概念。”

“只要我们在技术上,确保ei的意志完整地、纯粹地来自于人类,让ei成为人类意志的映射,让这个方向驱动ei的智能研究,ei就一直是ei!”

现场更沉寂了,不是冷场,而是思考。

马斯克咬着嘴唇嘀咕道:“我有种感觉……”

哈萨比斯咬着手指甲。这是他的怪癖:“定律!需要定律!”

“为此我们提出了一套规则,希望用它来规范ei的研究和应用。这套规则还很粗糙,但我认为,对这些规则的每一处忽略和删减,都将动摇我们将ai变为ei的根基,进而模糊技术造福人类的终极目的。”

夏鸣顿了顿,目光扫了会场一圈,再道:“这就是ei三定律!”

“第一。所有ei都必须有明确的映射主体,隐藏二者的关系必定抱有不可告人的目的。”

“第二。ei的完整性和私密性不容侵犯,不允许进行任何非法的窥探、破坏和修改。”

“第三,ei与主体的映射关系,不允许进行任何非法的破坏、蒙蔽和扭曲。”

夏鸣这个ei三定律丢出来后,现场继续沉寂,绝大多数人都在沉思。

“个人的ei。还有组织的ei,夏考虑得很周全”,哈萨比斯点头说。

马斯克搓着手指:“我都迫不及待地想召开公司会议了,映射!夏指出了ai,好吧。ei的新方向,就是把人的意志灌输到机器上!不管是个人意志,还是组织意志,都必须紧紧地绑在一起,这是推翻现有的商业模式,是一场商业革命!谁跑在前面最就赢了!”

然后他皱起了眉头:“不过组织的ei这边,商业用途还好说,公共用途的映射主体就是政府,政府要怎么调整?”

“这不只是商业革命,还是社会革命”,哈萨比斯耸肩:“要头痛的是各国政府,学术界对ai的认识统一到了ei后,它就成了社会共识,ei三定律的意义就相当于阿西莫夫的机器人三定律变成现实。这是人类文明的进步,政府如果头脑清醒,就必须服从这样的共识。”

旧金山的上午是燕都的深夜,但多所大学的阶梯教室、礼堂、影院里却依旧光亮大作,师生们挤得满满的,都在看ijcai的现场直播。

燕都理工大学的大礼堂里,浸淫计算机几十年,现在也在从事人工智能研究的老教授听到ei三定律后,摘下眼镜,欣慰地说:“人工智能的伦理问题终于解决了。”

旁边那个洋溢着青春气息的马尾少女问:“罗教授,我还是不太明白,这个ei三定律到底有什么意义?”

周围的学生们也都纷纷发问,罗教授擦着眼镜,笑道:“你们啊,学东西的时候也要顺带想想,学到的知识和技术跟我们人类是什么关系。”

“我们对人工智能的恐惧,跟对核武器或者其他生物、能源技术的恐惧是完全不同的,因为人工智能的发展,必然会叩问人类的自主意识这扇大门。”

“小夏和哈萨比斯不认同人工智能会产生自主意识,这是基于现有技术所做的判定,如果未来我们走生物计算机的路线,发展出了强人工智能呢?所以也不能完全否定人工智能对人类的威胁。”

“再加上小夏的忧虑,也就是人工智能让人类社会变得更加不平等,总之,人类到底该怎么看待人工智能,这个问题始终没有明确的答案。”

“说人工智能只是工具吧,可它在机制上具备拥有自主意识的要素,未来可能会成为独立的个体。那么平等对待它们呢?非我族类,其心必异,更何况是一种认知和理解世界完全不同于我们的新生命。”

“小夏的ei三定律在伦理层面上回答了这个问题,具体的技术细节你们不必追究。大致的意思是,就像我们人,不是无缘无故来到这个世界上的,我们有父母,我们有自己的人生意义。那么ei呢,三定律说的就是,ei也必须有明确的,伦理上的父母,它存在的意义是与它的映射主体共同成长,共同面对这个世界。”

“ei三定律,确定了人工智能在人类社会的地位,ei就是人的附属。就算它有了自主意识,它依旧被容纳在人类社会的体系里。”

“人的附属?”那个少女眼睛滴溜溜转着:“听起来像猫啊狗啊什么的。”

“地位上也许是,但意义却完全不一样”,罗教授呵呵笑道。

另一个男学生却不太接受这个观点:“这个三定律的重点不是在ei作为人类意志的延伸上吗?它是没有自主意识的。我如果有ei的话,它完全就是我的扩展,我想什么它就想什么,关于有自主意识的那部分人工智能,不是不在小夏的讨论范围内吗?”

一个年青老师说:“第一,ei必须有主人;第二,ei不受非法侵害;第三,ei和主人的从属关系不受非法侵害。”

他笑道:“你看,小夏这个三定律,其实已经把有自主意识的人工智能也覆盖到了。”

罗教授点头:“是啊,他毕竟是在ijcai上发表演说,有自主意识的强人工智能还太飘渺,那不是严谨学术应该去探讨的领域,所以他把范围聚焦在弱人工智能上。”

罗教授喟叹道:“你们啊,生在这个时代是非常幸福的,技术成熟了,伦理问题也解决了,人工智能时代的到来已经不可阻挡。”

年青老师说:“教授您还不老,咱们还得指望您领路呢,硬件软件都有了,咱们今年就能解决好几个课题!”

“我老喽,小夏,还有那个林澄,才二十来岁,我还得跟着他们走呢,不过……希望能多走几年吧”,罗教授戴上眼镜,即便是镜片也挡不住兴奋和希翼的光彩。

香山脚下,那片新矗立起来的建筑里,也有一座像是电影院的建筑还灯火通明。

上千人把大厅挤得满满当当的,研究所里男女老幼,从科学家到清洁工都到了,掌声已经响过了几轮,小欢的巴掌心都拍红了。

“其实我没怎么听懂呢”,李迪罗挠着头,依旧一脸迷茫。

“要是人工智能害人呢?这事怎么算?”他问旁边的武思豪。

“你笨啊!”小欢举起扇子,啪的一下敲上李迪罗的脑袋。

“嗷……干嘛打我!?”李迪罗叫着痛:”你手头还挺准呢!”

小欢把扇子丢给李迪罗:“是它打的你,不是我。”

李迪罗捞着扇子,想说小姑奶奶你够萌了,不要再装六岁小孩的萌好不好,忽然脑子一个激灵。

“明白了吧”,武思豪充当解说:“三定律的第一条是什么?ei必然属于一个人,它做了什么,责任都在那个人身上啊!”

“明白了”,李迪罗指着那把扇子耍宝:“我要控告你的主人小欢故意伤害,导致我的智商下降5点!”

小欢咯咯笑道:“我是阿鸣的ei,你去找阿鸣索赔!”

正说着,屏幕上,会场终于响起了掌声,而且是站起身来,热烈鼓掌,小欢也起身鼓掌,带动了整个影院的人都跟着站起来,屏幕和影院的掌声似乎穿透了空间,混在了一起。

【感谢大家一直以来的支持,这次起-点515粉丝节的作家荣耀堂和作品总选举,希望都能支持一把。另外粉丝节还有些红包礼包的,领一领,把订阅继续下去!】(未完待续。)

ps:  下午还有一更