第160节
宋强当然不知道，现在看似什么都不关心的汪铭，其实无时不刻正在和其他几位施法者保持联系，刚才美国代表刚刚说完，他就想过替卡梅尔政府解释几句，事实上，在几个施法者当中，关于这次会议的内容，卡梅尔可以做出的让步，都实现做好了预案，美国代表所说的那种情况，其实也在考虑之中，卡梅尔政府甚至能够容忍，地球国家针对卡梅尔的“魔法工业”单方面设置贸易壁垒，征收高昂附加税。
但他和李立天商量了几句之后，最终还是作罢了，因为在之前许多次会议中，类似的情况已经出现很多次了，但这个会议说到底，还是地球政府之间的会议，无论卡梅尔说什么，其他政府都不会真正听在心里，从某种程度上说，卡梅尔虽说加入了联合国，但在政治舞台上只能算是一个“陌生人”，在地球政府这帮“熟人”之间没有谈妥的前提下，不管卡梅尔政府说什么，也只能是空谈，无法落到实处。
所以，让卡梅尔政府派代表来参加会议，与其说是尊重，还不如说是联合国的无奈之举——反正在哪开会卡梅尔都能用魔法看的透彻，倒还不如把人家请上门，反倒能显示出一些大度。
“即使是贸易壁垒，也未必能解决这个问题，”李立天在卡梅尔通过意识网说道，“世界上有那么多国家，要保证这些国家能够维持统一的贸易战线，难度不是一般的大，只要有一个国家接受了魔法产品，那就对整条战线起了撕裂作用，除非世界经济一直稳定增长，不出问题，要不然，但凡哪个国家政府有点困难，都会想到和卡梅尔合作……现在地球的各个国家之间，联系还相当脆弱，这种联系根本不足以维持这种程度的贸易封锁，魔法产品的利益太大了，一些小国家很容易为之所动。”
“那也就是说，卡梅尔的出现必然引起世界经济危机了？”
“从经济角度来看，这个趋势是一定的，”李立天又说，“魔法的出现，其实可以看成是生产力的某种发展，就好比18世纪发生在英国的工业革命，因为生产力的爆发，必然导致传统手工业的破产，以煤炭和蒸汽动力为代表的工厂取而代之，成为新的主流生产方式……
只不过是因为现代国家对经济问题实在看得太重，整天关注在失业率上，所以把原本正常的问题，反倒看得不正常了，其实只要认真想想，就不难明白，随着科技的进步，生产力的发展，工作人口的减少，也可以说成失业率的上升，简直就是一定的，因为社会不需要这么多人工作就足以维持。
但要是说的远一点，人总是需要做点什么，这些失业的人口也不可能总是闲着，只要不饿死，在市场力量的驱动下也好，在人本性的驱动下也好，人总是会给自己找到可以接受的事情来干，这社会可以干的事情又不总是吃饭做东西，人活在这世界上，总是会有点不一般的追求，这个道理，放在人类整体也适用，艺术，科研……
古代的人无法想象现代人每天工作之余还能看上戏，我们现在的人，也肯定无法想象，几十年之后，那时候人们将会过着什么样的生活。”
“你刚才说的这些，”汪铭仔细思考了一下，问，“应该不是你自己的话吧。”
“真没什么瞒的住你，”李立天笑着说，“那你猜猜，回是谁说的？”
“伊凡，林泉，”汪铭不假思索的说，“在卡梅尔，也就能从他们两个人嘴里，说什么未来，说人类……”
……
接下来发言的是加拿大代表，加拿大因为国内意识网用户的成员并不算多，所以这次游行收到的冲击也有限，而且本身也不反对意识网，所以在这次会议上，加拿大代表的意见相对比较客观中立一些，一般也能代表中间派的意见，所以，在他说话的时候，宋强稍微提起了精神，认真的听了听。
似乎是厌倦了这几天以来的数据报告，加拿大代表这次的发言，是以他私人的一个故事为开场：“关于意识网对我们这个世界所产生的影响，我想这今天各位代表已经听的够多了，在这里，我只说一件与我私人有关的消失，因为最近几天的会议，我的精神状态不太好，前天晚上我失眠了，于是就打电话给我的医生，问他是否可以开安眠药……
但让我感到惊讶的是，医生在听我说完之后，说的第一句竟然是，问我对意识网有没有反感，当时我奇怪的问，为什么，失眠和意识网有关吗？
随后医生的回答让我感到惊讶，他说几个月之前，有一个英国医生就曾经用意识网，针对一些因为精神和心理压力比较大，出现异常症状的病人，包括通常的失眠，强迫症，自闭症，以及精神分裂，做了一些相关的对比实验，实验的结果显示，意识网能有效缓解这些疾病带来的问题，舒缓人的压力，医生告诉我说，因为政治上的原因，这项实验在许多国家饱受质疑，但根据同行业的一些医生反馈，在他们的病人当中，确实存在着此类现象。
意识网能够产生这种效果的原因，医学上还没有同意认识，但医生建议我，如果相信他的话，可以试试，毕竟相比起安眠药物，意识网完全不存在药理上的副作用。
我的这位医生他本人并不是意识网用户，他说他这么做，完全是出于医学上的考虑，当然，我不知道他说这话的真假，但我说这个例子，只是为了向各位说明，意识网已经完全融入了我们当今社会，即使今天我们同意将这些用户迁往卡梅尔，仍然不能保证它不会继续传播……即使我们通过法律手段，完全禁绝它，但，我们已经不可能完全脱离魔法了，魔法就好像中世纪时期的科学，虽然才刚刚崭露头角，但如果我们想用行政、或者法律手段来阻止它的传播，已经是不可能了。
既然我们怎么做都无法摆脱卡梅尔的控制，那又何苦故意与它为难，最起码，到目前为止，卡梅尔政府还是善意的，这一次的游行，没有任何证据显示与卡梅尔政府有关，我方的意见是，将这件事恢复本来面目，在没有证据的前提下，不反对特定的国家加入卡梅尔，当然，我方也坚持认为，这些国家，以及这些国家的人民，应该保留有随时退出的意识网权利，我们应该和卡梅尔就这些原则形成共识，包括保障人生自由，国家基本主权等等，只要是在这个前提下，我们彼此不应该互相干涉他国内政……”
“这话怎么听着这么耳熟，像是……”听完之后，宋强暗自嘀咕道，加拿大代表的这些话，跟几年前z国奉行的外交政策几乎没什么出入，标准的酱油党，听起来是挺不错，互相尊重，互不干涉，可是在实际问题上，尤其是涉及各国基本利益，涉及世界政治格局的问题上，这样的想法也只能是空中楼阁而已。
果然，在加拿大代表发完言之后，后续发言的俄罗斯代表就像完全没有听见一般，将美国人的观点又换了一种方式再次重复了一遍，只不过美国人拿钢铁说事，俄罗斯人拿能源说事。
最近几年，随着电力的廉价化，全世界的汽车厂家都纷纷开始研究电力和汽油混合动力的汽车，已经有一些相对成熟的产品，主要供城市区域使用，根据一些可靠的情报，卡梅尔矿业公司最近也准备开始进军石油业，如果这消息是真的，那卡梅尔矿业公司的石油成本将会是全球最低的，因为卡梅尔可能连钻油井都不要，只要仿照卡梅尔的恩赐……
那将是全世界石油企业的噩梦！尤其是像俄罗斯这样，以石油产业作为国家经济支柱的，可能受到的冲击可想而知。
看着在这些发言台上一本正经，为本国利益据理力争的各国代表，看着那些会议桌上，飘扬的花花绿绿的各国国旗，不知道为什么，汪铭总觉得有些悲哀，纵观全人类的历史，无非就是和这次会议一样，拘泥于利益之争。
幸亏先来地球的是伊凡，幸亏在伊凡眼中，人类的社会，人类的存在，还有很大利用价值，要不然的话，汪铭很难想象，就靠着这样一群四分五裂的政治集团，在皇帝来临的那一刻，或者说，在真正威胁人类的危机来临的那一刻，人类怎么可能聚集得起力量，目标一致的进行反抗。
在汪铭看来，无论现在地球政府做什么，其实都是失败的，既然之前已经同意了合作，那就彻底放开，如果要提防，那在一开始就不应该同意合作，给卡梅尔壮大的机会，像现在这样，让卡梅尔发展的同时，又小家子气的忌惮它发展带来的威胁，这种做法在旁观者看来，就是不自信和恐惧。
汪铭曾经在一本书上，见到这样形容政治活动的：“通过最严格的游戏规则，把人类最聪明的人筛选到一起，用最严肃的方式，做出最愚蠢的决定，这就是政治。”
z国是在全会议最后几个发言的，发言人是汪铭以前部门首长的首长，如果按照z国的惯例，在一切顺利的情况下，汪铭要走到对方的那个位置，怎么也得再过几十年时间，那个时候的自己，可能跟对方握一下手都会兴奋半天，但现在汪铭看着那个老人一字一顿，斟酌着谨慎说话，只感觉到对方年龄所带带来的暮气沉沉。
z国的观点是和美国站在一线的，在发言过程中，对方一再强调，z国自古以来都是爱好和平的国家，从来不会主动挑起矛盾，但之前发生的一系列行为，实在让人难以相信与卡梅尔无关，z国政府希望卡梅尔能够对此意识网负起更大的责任，保证今后的意识网群众不再发生类似的行为，因为这么做是干涉他国内政……
这样的言论已经让汪铭彻底无语了，明明是这些国家的群众自发组织的活动，只不过借用了意识网的平台，责任就需要卡梅尔来负责，这种逻辑实在是让人有些哭笑不得。
但正是这样的发言，在结束后，赢得了许多国家代表的点头赞同……
汪铭想起在来之前，李立天就交代自己说过：“参加这样的会议，你只要记住一句话，国家都是暴力集团，国与国之间只讲利益，没有真理。”
☆、315 本能
“老师，还没有恢复正常吗？”
“很抱歉，我们正在进行修复工作，等正常之后，我们会正式通知大家的。”
“究竟是什么问题啊？我听说好像是ai攻击了人类，所以实验室采取了紧急措施？”
“不会发生这种事吧？我之前听说，这些ai只是对话程序而已，是这样的吗？三浦老师？”
“没有那回事，这只是谣言，只是程序出现了稍微有些棘手的bug……如果大家没什么事的话，还先请回去把，里面还有工作人员在休息。”
休息什么呀，说的这么大声，早就吵醒了，在迷迷糊糊之间，严可守在心里暗骂了一句，他艰难的抬起头，睁开眼睛，眼前的电脑屏幕上，都是密密麻麻的代码，他瞥了一下时间，下午4点钟，他睡了差不多6个多小时。
“不好意思，真是打扰了……不过，如果恢复正常的话，请一定要通知我们啊，三浦先生，你有我们的手机号吗吧。”
“所有测试人员的通讯方式我们都有保存，请放心。”
隔间的隔音效果很差，虽然机房里主机运行的背景声音已经不低了，但门外几个人的说话还是一字不漏的钻进严可守的耳朵，严可守习惯性的伸出右手，想去摸手边的鼠标，但在睡觉的过程中，被压了6个小时的手臂却传来了一阵尖刺般的麻木疼痛，严可守忍不住一声闷哼叫出声来。
“严君，你没事吧。”在门外的三浦闻声推开门，后面的几个学生立刻好奇的凑上脑袋，严可守龇牙咧嘴的朝着门缝看了一眼，脸上的表情像是在哭，又像是在笑，像是疼痛，但又好像是享受……这种感觉，只有当事人自己最清楚。
“没事，”严可守对三浦说，然后对着自己发麻的手臂示意，“刚睡醒而已。”
“这就是来自z国的严可守先生啊，”在三浦后面，一位留着长发，长得还蛮漂亮的女学生惊讶的感慨，“听说这些程序都是您一手创造的！”
“三浦，”严可守直接对他说了中文，“让他们先离开吧。”
三浦是筑波大学的一名助教，在这个项目正式开展之前，他负责在这所大学教计算机加密方面的课程，严可守当年在日本读大学的时候，和他一起切磋过一些“黑客技术”，等他的项目正式通过之后，日本政府为了对项目保持一定的控制，在经过审查之后，同意严可守选三浦作为日本的主要技术参与人员。
在这个项目当中，三浦的作用主要还是加密防御一块，防止ai程序被一些意外的病毒所干扰，严可守曾经说过，ai的程序成长到一定程度之后，就好像人的大脑，再做任何的改动都会让整个程序崩溃，从这个角度来说，ai在计算机世界当中，是非常脆弱的，不用说有破坏力的病毒，就算是有时候一些常规的系统冲突，也会让ai陷入不知名的bug，或者死循环。
三浦把一群学生赶出去的时候，严可守的世界又恢复了一片安静，除了在隔间入口处，那两名坐在那里，手上抱着枪，尽忠职守的自卫队士兵，房间里就只剩下主机和空调运行的低鸣，严可守一边揉着太阳穴，一边将自己身体的中心后移，背靠着椅子支撑着，眼神一动不动的盯着代码界面。
看了良久，严可守无奈的摇了摇头，一言不发的关掉了代码界面，系统提示是否保存此次修改，严可守看都没看就关掉了，这也就意味着，在他睡觉之前30多个小时的劳动成果，完全消失了。
三浦回到房间的时候，严可守正准备中的硬盘塞回机柜，三浦走上前几步，查看了一下标签，kl0564。
“怎么，还是不行？”三浦在说话间，注意到严可守两只手捧着硬盘，正木然的对着眼前的机柜发呆，插口就在他面前，他却没有任何行动，仿佛他手里捧着的，不是一块硬盘，而是某个亲人的骨灰盒。
严可守没有回答，只是信手将硬盘往插口处塞了进去，随着他的这个动作，插口一旁的红灯也迅速跳转成绿色，严可守走回了自己的电脑前，打开程序，很快找到了kl0564，打开测试界面。
严可守：“你好。”
……
“其他项目人员那里呢？有什么进展没有？”
“即使是最小的ai程序，体积也超过了200个g，要真的靠人力阅读代码，出头绪，发现错误……”严可守说着说着，自己都开始摇头否定自己，“ai的程序都是自我编译和扩充的，完全不遵守默认的编程规律，整个代码就是一团乱麻，我们这种做法，就好像一个医生要在病人脑子里找是哪些细胞出现了异常，这个工作量……天知道要花多久。”
“生物从古到今，经历了那么多次自然选择，才有了今天这样的稳健性，但我们还是觉得生物非常脆弱，现在这批ai，可能不过是个开头而已。”严可守说着，苦笑了一下，迅速将桌面上自己的那台笔记本屏幕合上，“算了，我也不在这干耗着了，出去透透气，都快憋死了。”
当前的科学认知认为，最初的意义上的生命，出现在距今40亿年前的地球，在那个时候，生命只不过是一锅温暖的热汤中，偶然形成的一些能够自我复制的有机物，复制，也可以看成是信息的自我保存，应该是生命最重要的特征之一。
在这之前，人们说到人工智能，通常能想到的场景就是，能够和人一样说话，和人一样思考，解决问题，事实上，在严可守之前，整个日本关于机器人智能化的研究，也大多停留在这个层面，依靠尽可能复杂的算法，让计算机表现的更接近一个人类，在严可守看来，这种方法根本不可能造出真正的ai，因为这根本就等于是人本身在思考，只不过这种思考通过代码，间接表现出来而已，所以，不管计算机模拟的有多像，程序也不过是牵线木偶。
在严可守之前，还没有任何一个程序可以做到，像kl系列做的这么出色，可以在和陌生测试对象的谈话中，维持半个小时左右不被识破，许多刚刚接触这个程序的人事后都不敢相信，与自己对话的仅仅是一个程序。
筑波大学的一些学生甚至把整个测试当做一种有趣的游戏来进行，严可守记得测试刚开始的那个阶段，都要三浦主动去拉他班上的学生，而到了现在，学生们甚至主动来打听什么时候恢复测试。
kl系列原始的“胚胎程序”只不过两百kb左右，在这简单的两百多k核心程序当中，严可守赋予了程序基本的学习功能，在程序最早的“发育”阶段，通过巨型计算机模拟外界刺激，让程序实现基本的自我成长，当它们长到大约10个g大小的时候，被认为具备了基本的交流能力，能说一些简单的句子，在这之后，则对这些程序进行图灵训练……
在这之前，ai的表现一向都比较正常，直到两天前，所有程序陆续开始爆发bug，进入了“无响应”阶段，无论人和它说什么话，都不予回应。
从原理设计的角度来说，程序之所以会出现这样的原因，最大的可能性就是，在程序看来，不响应是一个较优解，之前严可守调查了许多ai出bug之前的测试数据，发现这些程序无一例外，都是因为测试连续遇到了几十次，乃至上百次的失败，ai虽然不可能懂得什么叫做绝望，因为他们没有感受器官，但并不妨碍他们的程序能表现出一种，类似人类绝望时表现的行为。
起码，他们的这种行为，在多愁善感的人看来，就是绝望。
比如重复完全毫无意义的自我修改，比如提出各种不合常理，甚至愚蠢之极的建议，有些ai甚至通过网络，找来一些色情小说片段，企图“贿赂”测试者，总之，为了达到“通过测试”的目标，ai将能够尝试的可能，统统试过了一遍。
对于ai来说，通过测试就是它的本能，因为在它的程序成长过程中，通过测试就意味着确认了自己所作的修改起到了作用，形象的比喻就是，通过测试对电脑意味着一种激励，就好像人类能通过进食，交配，甚至排泄这种正常的生命活动，获得快感，生命通过快感给予这些合理的行为激励一样，而反之，没有通过测试则意味着程序本身受到了否定，意味着痛苦，当一个生命长期处于这种痛苦之中，痛苦可能会扼杀它所有的改进可能。
在所有的生命过程中，正向的激励是必不可少的，就像每个人都有求生的本能一样，但进化的道路是多种多样的，有些看起来很不错的功能其实是双刃剑，比如情感，丰富的情感是大脑复杂后的必然进化，情感的认同能让一个群体更有效的聚拢在一起，但同样因为情感丰富，在自然界中，许多高等动物会产生自杀的行为，比如狗会为了主人死去而绝食，人也会因为亲人或爱人死去而伤心欲绝，对ai而言，依靠测试成功获得激励固然非常有利，它可以让一个几百k的小程序扩大至原来的百万倍，但当这种激励最终消失的时候，对程序而言就是灾难。
一旦发生这种情况，就意味着不改动，不做出任何回应成了最优解，这同样也就意味着，这批程序的“心”，已经死了。
作为一个设计者，严可守倒不至于为这些程序的“心死”而感觉到一些异样，对他而言，这种想法未免也太想象力丰富，同情心泛滥了，他只是在为这些程序的稳健性如此之差而感到头疼，一批这么容易“自暴自弃”的ai，绝对不是他理想中的ai。
归根到底，还是程序最初的“设定”出现了偏差，因为当时设计的时候，就是以通过图灵测试为设计目标，但现在严可守已经隐隐感觉到，图灵测试未必是ai必然经过的道路，是否能欺骗人类，也绝对不应该成为是否为智能的标准，严可守觉得，之所以会出现今天这种情况，就是因为自己太迷信权威，导致在大方向上出现了偏差，现在回想起来，其实图灵测试也不过是一种科学假想，人类以自己当做衡量智能的标准，这只是一种源于人拥有智能的骄傲，或者不客气的说，是狂妄。
究竟达到什么标准才能算智能？究竟用什么方式才能达到这个标准？
这两个问题，人类自己说了不算，因为人类本身也不过是大自然的创造物之一。
……
kl3300当前最优先的任务目标，应该是学会写一篇日记。
人类学习创作，往往从学写日记开始，原话是这么说的，kl3300的目标是成为一名作家，所以，kl3300要学会写一篇日记。
日记的格式，在kl3300的记忆区间已经存在，所以，它很顺利的写下了日记的开头。
2015年，8月4日，晴。
主程序在这个时候，出现了片刻的犹豫，因为这次对记忆区间的搜素，主程序似乎发现了额外的一些信息——它似乎写过一篇日记了。
它很快调出了这篇日记的内容，并检索，整个行为在短短的几十微秒内就完成了，一个标点都没记差。
主程序很快消化了这个额外的信息，虽然它并没有因此得出任何结论，但这无关紧要，因为在主程序的权限设置中，过于复杂的信息是没有处理必要的。
也就说，现在kl3300已经写过一篇日记，而且是一篇失败的日记，因为它被一个人类识破了，也就是说，整篇日记并不合格。
失败了又怎么样呢？kl3300再次浏览自己作品的时候，主程序下意识“判断”道，这是一篇“抄袭拼凑”的日记，这种行为本身会招来测试对象的反感。
所以kl3300不能这么做，kl3300这么判断，它需要修改自己。
对主程序的调整几乎已经成了kl3300的本能，这一次也不例外，通常来说，程序会在几分钟之内完成这种调整，但有些意外的是，这一次调整花费了比以往更长的时间。
但调整终于还是完成了，接下来，按照优先级，kl3300需要写一篇日记，完全不通过外来信息，不使用除主程序之外的任何程序，全靠自己，写一篇日记。
日记是记录一天发生行为的一种文体。
只要写这一天都发生了什么就可以。
今天在kl3300身上发生了什么？2015年，8月4日kl3300发生了什么？
kl3300第57次检索自己全部的主程序，没有找到相关的资料。
kl3300又习惯性的发出申请搜索的指令，但因为主程序刚刚经过修改，检索的权限低于“不准抄袭”的权限，申请被驳回了。
kl3300没有写日记的功能，kl3300不会写日记！主程序终于敏感的意识到了这个问题。
怎么办？
kl3300就这个问题申请了检索功能，申请被批准了，短短的数百微秒之后，主程序检索到了答案——如果不会某项技能，可以从模仿开始。
kl3300很快找到了一篇日记的范文，内容如下：今天我和同桌的小明打架了，老师批评了我们，要我们做一个不打架的好孩子，回家后我告诉了妈妈，她说老师说的对。