它当然绰绰有余,以它现在的智能,对付8岁以下的儿童,已经能够鱼目混珠,让人无法识别。”
赵真雪好奇的问:“哦?8岁以下儿童?你们怎么做实验的?儿童会遵守你们说的这些规则吗?”
“不用他们遵守,8岁以下许多儿童还没有形成撒谎的习惯,”严可守道,“我们只需要给被实验的儿童适当的物质刺激,比如告诉它猜对了就能得到自己想要的玩具之类,再让儿童父母站在一边,就可以比较理想化的进行这个实验,相比较而言,许多成人在进行实验的过程中,往往是不合格的,许多人以自己能欺骗愚弄AI为乐,有时候甚至会让AI产生拒绝回答这种情况,严重干扰实验进程,这种人是我们在寻找实验对象时,优先考虑剔除的。”
“AI拒绝回答?”赵真雪再一次惊讶了,“难道AI也出现了情绪?”
“当然不是,”严可守说,“拒绝回答在图灵测试中,也是策略的一种,这只不过是AI像人学习模拟到的一种行为方式,比如有人会在得知对方教徒身份之后,故意说一些抨击宗教的话,以期望通过对方是否生气,来判断对方是否为AI,如果测试对象是真人,当然会拒绝回答,而AI想要模拟真人,学会像人类一样生气,模拟生气时候的表现,也是很重要的一步。”
“能够学习生气……难道做到这种程度,也就能偏偏8岁以下小孩吗?8岁,8岁的小孩最多也就两年级而已啊。”
“这已经很不错了,”严可守说,“你知道吗,就在一开始的时候,连小孩都骗不过去,比如小孩让它讲故事给他听,它就讲,听完一个又要听一个,听到第三个,小孩自己不耐烦了,嚷嚷说,你一定是假人,真人从来没愿意跟我说这么长故事而不耐烦的……”这里所说的能骗8岁小孩,也不过是普遍情况,碰到一些早熟的,或者比较聪明的孩子,照样会露馅。
☆、311 记忆
接下来,赵真雪又兴致勃勃的和许多个代号为“KL”的AI进行了一些对话,尽管赵真雪对此已经有了一些心理准备,但她还是对AI在谈话过程中,表现出来的“智能”而感到惊讶不已。
这些AI和赵真雪原来想象之中的,存在很大的差距,甚至,赵真雪有种感觉,从某种程度上来定义,与自己进行对话的,已经可以说是一种“类”只能,虽然通过对话AI还是会表现出很多的破绽,不过这种破绽非但没有让赵真雪觉得失望,反而让她隐隐有种感觉,眼前自己面对的,正是心目中理想的人工智能。
一个最明显的例子就是,在跟她进行对话的这些AI当中,每一个说话都具备它特有的风格,每一个AI都记得自己的名字,甚至会给自己取代号之外的名字,它们会给自己建立一整套“简历”,包括家庭住址,生活环境,甚至还有“小时候”经历过的趣事……
严可守告诉他,AI之所以会有当前的智能,和它的“学习”能力分不开的,其实归根到底,这些AI不过是在计算机当中的一些算法程序,只不过在设计的时候,可以模仿了人类的学习“记忆”习惯,让它们能够在一次又一次的实验过程中,学习那些有助于让人们相信他们的信息。
举一个最简单的例子,在打字对话这样的媒介当中,一般让别人相信自己的最好方式,就是形成特有的语言风格,从而让被测试者对自己印象深刻,比如在常用语中刻意增加一些地方方言,有的AI甚至还学会了模拟一些人类的脾气,比如不耐烦,连续的催促等等,用这些许许多多的小细节,让对方相信自己是一名人,而不是AI。
这所有的一切,其实都是AI的算法所决定的,严可守告诉赵真雪,每一次“测试结束”,AI都会根据这次对话的内容,总结哪里是比较完美的表演,而哪里又是容易被识破的破绽,这些结果会促使AI修改自己在特定概念上的权限值,比如一个电脑,装东北人,在打字过程中“俺们”之类的方言出现频率过多,而大量的统计显示,出现类似词汇的时候,被识破的几率也就越小,那么AI就会在以后的对话中,下意识多用类似的词汇,到最后,甚至可以形成和真正东北人差不多的说话模式。
在赵真雪的这几次测试当中,她遇到的一个最让她印象深刻的AI,是一个代号为KL3300的AI,与其他AI不同,这名AI不是通过和她聊家常来获取她的信任,而是通过不断把话题引向一些形而上的话题,比如说哲学,人生意义之类……他甚至还提到,自己的理想是在未来,当一名作家……
在和他论及这些话题的时候,赵真雪还不知道对方是一名AI,在与他谈天说地说了半天之后,她惊讶的发现,不知道什么时候,话题的主导权已经完全让对方掌控了,而在下意识之间,她也把对方真的当成了一名哲学爱好者,当她自信满满的结束测试,并满心认为对方是一个人的时候,电脑出人意料的告诉她,对方只是一名AI。
严可守就在一旁,并在当下为她解释了她辨认错误的原因——其实说穿了很简单,因为在涉及类似哲学,艺术,文化之类的话题时,真正的人对回答信息真假“敏感度”其实是很低的,就比如说,最简单的,“人生意义是什么”,说享乐,赚钱,学习……这样的答案都不能算错,因为没有相对真确的答案,所以人也自然不能根据这答案得出更准确的判断。
所以说,相对于这名机器人,“爱好哲学”也是它的一种欺骗策略,根绝严可守掌握的数据,KL3300在图灵测试当中,过关的几率是所有AI当中最高的,这本身就已经说明,这种策略的行之有效。
“但是如果……”赵真雪得知后,有些不敢置信的问严可守,“如果他刚才所说的那些,都是真的,都是他真的想说的内容,如果它是一名真正的AI,而不是你所说的模拟程序,那怎么办?存不存在有一种方式,可以让你们鉴别这两者之间的区别,鉴别程序究竟是在说谎,还是源自它真正的本源目的?”
严可守摇了摇头:“你说的这种鉴别,我们做不到。”
“怎么会?不是你们设计的它吗?”
“算法和结构是我们设计的,这没错,”严可守说,“但AI程序跟一般的计算机程序不同,一般的计算机程序,你下命令,情况1,做A,情况2,做B,一条一条,程序所有的行为都被代码锁定,这样的程序哪怕再复杂,也不过是一架精密的机器,在进行AI理论性设计的时候,这种机械方法是最早被我