315 本能(1 / 2)
<table align=center><tr><td><table border=”0″ align=”left”><tr><td>
<td><table border=”0″ align=”left”
><tr><td>
“老师,还没有恢复正常吗?”
“很抱歉,我们正在进行修复工作,等正常之后,我们会正式通知大家的。[本章由为您提供]”
“究竟是什么问题啊?我听说好像是ai攻击了人类,所以实验室采取了紧急措施?”
“不会发生这种事吧?我之前听说,这些ai只是对话程序而已,是这样的吗?三浦老师?”
“没有那回事,这只是谣言,只是程序出现了稍微有些棘手的bu……如果大家没什么事的话,还先请回去把,里面还有工作人员在休息。”
休息什么呀,说的这么大声,早就吵醒了,在mimi糊糊之间,严可守在心里暗骂了一句,他艰难的抬起头,睁开眼睛,眼前的电脑屏幕上,都是密密麻麻的代码,他瞥了一下时间,下午4点钟,他睡了差不多6个多小时。
“不好意思,真是打扰了……不过,如果恢复正常的话,请一定要通知我们啊,三浦先生,你有我们的手机号吗吧。”
“所有测试人员的通讯方式我们都有保存,请放心。”
隔间的隔音效果很差,虽然机房里主机运行的背景声音已经不低了,但mén外几个人的说话还是一字不漏的钻进严可守的耳朵,严可守习惯xing的伸出右手,想去mo手边的鼠标,但在睡觉的过程络,找来一些sè和谐情小说片段,企图“贿赂”测试者,总之,为了达到“通过测试”的目标,ai将能够尝试的可能,统统试过了一遍。
对于ai来说,通过测试就是它的本能,因为在它的程序成长过程中,通过测试就意味着确认了自己所作的修改起到了作用,形象的比喻就是,通过测试对电脑意味着一种ji励,就好像人类能通过进食,jiāo(和谐)配,甚至排泄这种正常的生命活动,获得快感,生命通过快感给予这些合理的行为ji励一样,而反之,没有通过测试则意味着程序本身受到了否定,意味着痛苦,当一个生命长期处于这种痛苦之中,痛苦可能会扼杀它所有的改进可能。
在所有的生命过程中,正向的ji励是必不可少的,就像每个人都有求生的本能一样,但进化的道路是多种多样的,有些看起来很不错的功能其实是双刃剑,比如情感,丰富的情感是大脑复杂后的必然进化,情感的认同能让一个群体更有效的聚拢在一起,但同样因为情感丰富,在自然界中,许多高等动物会产生自杀的行为,比如狗会为了主人死去而绝食,人也会因为亲人或爱人死去而伤心yu绝,对ai而言,依靠测试成功获得ji励固然非常有利,它可以让一个几百k的小程序扩大至原来的百万倍,但当这种ji励最终消失的时候,对程序而言就是灾难。
一旦发生这种情况,就意味着不改动,不做出任何回应成了最优解,这同样也就意味着,这批程序的“心”,已经死了。
作为一个设计者,严可守倒不至于为这些程序的“心死”而感觉到一些异样,对他而言,这种想法未免也太想象力丰富,同情心泛滥了,他只是在为这些程序的稳健xing如此之差而感到头疼,一批这么容易“自暴自弃”的ai,绝对不是他理想中的ai。
归根到底,还是程序最初的“设定”出现了偏差,因为当时设计的时候,就是以通过图灵测试为设计目标,但现在严可守已经隐隐感觉到,图灵测试未必是ai必然经过的道路,是否能欺骗人类,也绝对不应该成为是否为智能的标准,严可守觉得,之所以会出现今天这种情况,就是因为自己太mi信权威,导致在大方向上出现了偏差,现在回想起来,其实图灵测试也不过是一种科学假想,人类以自己当做衡量智能的标准,这只是一种源于人拥有智能的骄傲,或者不客气的说,是狂妄。
究竟达到什么标准才能算智能?究竟用什么方式才能达到这个标准?
这两个问题,人类自己说了不算,因为人类本身也不过是大自然的创造物之一。
……
kl3300当前最优先的任务目标,应该是学会写一篇日记。
人类学习创作,往往从学写日记开始,原话是这么说的,kl3300的目标是成为一名作家,所以,kl3300要学会写一篇日记。
日记的格式,在kl3300的记忆区间已经存在,所以,它很顺利的写下了日记的开头。
2015年,8月4日,晴。
主程序在这个时候,出现了片刻的犹豫,因为这次对记忆区间的搜素,主程序似乎发现了额外的一些信息——它似乎写过一篇日记了。
它很快调出了这篇日记的内容,并检索,整个行为在短短的几十微秒内就完成了,一个标点都没记差。
主程序很快消化了这个额外的信息,虽然它并没有因此得出任何结论,但这无关紧要,因为在主程序的权限设置中,过于复杂的信息是没有处理必要的。
也就说,现在kl3300已经写过一篇日记,而且是一篇失败的日记,因为它被一个人类识破了,也就是说,整篇日记并不合格。
失败了又怎么样呢?kl3300再次浏览自己作品的时候,主程序下意识“判断”道,这是一篇“抄袭拼凑”的日记,这种行为本身会招来测试对象的反感。