郭锐飞到了东京。
细川泰司住在秋叶原附近的一个小巷里，他是个死宅，还有点迫害妄想症，不告诉具体的门牌地址，也不去接机，两个人约在剧场附近的一家咖啡馆见面。
郭锐不懂日语，下车一看这么多电器商城，就懵逼了。
女仆店，手办店，各种电器、电脑、配件，情趣内衣店、主题咖啡店、大型剧场、极限运动玩具、cosplay服装店，琳琅满目。剧场那边大白天的就开门了。这边一堆**美女在cos个什么？
没有顾客，或则说，基本没有顾客。但是大部分场所都开门营业了。
这是一种面对瘟疫的姿态么？日本人肯定没有全部注射钨酶。而且，钨酶只能清除已有的感染，并不能防止二次感染。病毒还是会侵入，如果入侵部位是血液或者上皮细胞，那它会随着人体更新而流掉；要是入侵了骨骼和神经，它会再度开始从零积攒，直到把你干掉。你还得再注射。
这种局面下日本人打算过正常的生活，还真是顽强啊。
他打开了手机上的新闻频道，看看最近世界发生了什么变化。
世界卫生组织宣布，早在两个星期以前，全球生产钨酶针剂的正规工厂已经超过了两千家。根据数学模型，针剂的下发速度与热泉病毒的侵染速度相比，已经超过了两倍半。这个差额还在继续上升，而死亡率开始走平。大瘟疫已到尾声。
英国、德国，街道上都有了零星的行人。以前都只有车辆穿过的公路，现在居然有了自行车骑士和轮滑者。美国更不用说了，大部分城市综合体都已经开门纳客。
人类文明在自我修复时，最有尊严。
细川泰司打电话来，他迟到了。郭锐等得不耐，他的收藏癖发作。这么多商店可以逛，谁去管细川这个变态？
他逛起街来。
市面冷清，不用排队，我今天包场了。
茶水博士先来一个。手办高5寸，很稀有，在铁臂阿童木身边默默的站着。
看到紫龙了。当场抓捕。庐山瀑布的背景也给我一个。
高达，抓捕两个。坂本真绫的《月之茧》在哪儿？给我唱片。
初音呢？攻壳呢？
大航海时代，我干脆搞一艘船吧。给我“海上君王号”。
海贼就算了，火影也算了，家里有的是。
这是死与生么？我日。
老板，sm的铁链你应该送我一套，我都买了这么多电动的了。
太多了，太多了，我要去搞一个手推车。哈哈哈哈哈哈……
于是大土豪郭锐拉着一车的玩具、手办、模型、唱片、电动工具、海报、衣服、拖鞋、包包、头盔、礼品包装袋，出现在剧场旁边的咖啡馆里。
细川泰司早就到了，先看到了郭锐的推车，然后看到了他。
他没有站起来，静静地看着郭锐从面前走过，辨认他都买了些啥。郭锐面相很年轻，穿衣打扮有点贵重，买的东西有一半是垃圾，另一半是经典。他笑得傻乎乎的。
嗯，他还好。虽然他半天不接电话。
“我在这儿，郭锐。”细川站了起来。
“哎哟，你等一下我，东西都掉了。细川泰司是吧？你好你好。幸会啊。我本来转悠着去找你，没忍住手。我迟到了……有这么久吗？太对不起了……”
“不必在意。你这艘船模也太大了，好带走么？”
“管他呢，我这大部分是送人的。你有没有需要？看上哪个，我送你！”
“坂本真绫这个是限量版吧？我要这个。”细川泰司说。
郭锐肉痛地撇撇嘴，“好吧。”
现在轮到细川泰司开心了。他坦然把唱片塞进衣服的内袋，殷勤地给郭锐倒了一杯咖啡。
“巴西的咖啡豆，满好喝的。”他说着，打开了笔记本电脑。
郭锐坐下来，打量了一眼细川泰司。他穿长款西装，白衬衣，黑领带，十分正式，像个大学教授。这是程序员该有的打扮么？
也许，他更在意自己的数学能力吧。但是从表情举止看，他明显不是最佳状态，有点……心不在焉。
郭锐开始慢慢讲述脑机接口的项目需求，等他开价。细川泰司听了一阵，在思维导图软件上做了个模型，然后又改了改，转过来给郭锐看。
“我可以做一个简单粗暴的东西出来，起效有点慢，先收集动作和神经信号，到一定程度了做意图判断，再过一段时间才能做意图输出。程序把人弄懂了，就不会被他的乱七八糟的小念头搞晕掉。你仔细看看。”
郭锐看了半天，意识到自己有多么差了。“抱歉，我实在是……看不懂。”
细川泰司静静地笑了，“嗯，你很真实。那我也不瞒你。其实关键在于意图分析，放在三个月前，我没有本事做这个模块。但现在我可以。”
“为什么？”
“这是个很长的故事了。简单地说，这张图是对某个超级智能程序的低级模拟。这个超级智能在我的电脑里，可能也在你的电脑里。它早就开始侵入我们人类的电脑了。我发现它的时候它已经很有点规模了，现在更大了。”
“呵呵，你在跟我说科幻呢。”郭锐笑了。
“不信？没错，其实我也不信，一直不信，直到它最近开始主动入侵别人的电脑，我才相信。”
“那它是哪儿来的？你说它是个程序，哪个国家开发的？”
“不是国家，它是……我开发的。”
郭锐静静地看着细川泰司，有点怀疑他精神不正常，“你开发的程序，你自己不知道？”
“是的。”
“你确信自己的精神是正常的吗？最近瘟疫横行，你遭到什么打击没有？”
“不会比你遭到的打击更多。我确信自己正常，如果你听完我的讲述，你也能确信。我们之间的唯一障碍，是你有没有耐心听了。”
郭锐点点头，无论他的话多么惊世骇俗，起码到现在还没有逻辑错误。细川笑着给两人的咖啡续上。
许多年前，我就在做筛选器，按常规的说法就是搜索引擎。不过后来我厌烦了给公司打工，就单干了。你那个窃听尼娜的筛选器只算初级，挺好用是吧？我走得比这个远多了。
我用筛选器做了个小游戏，它收集你电脑里的信息，记录你的动作，猜你下一步想干什么，提前帮你把事情干了！呵呵，就这么简单。
你别像看个白痴似的看我，它当然没那么简单。
我启动了它，然后该干啥干啥，让它慢慢地学我。一个星期以后，它给我下了一堆**，发了几个陌生女优的邮箱地址。我觉得好惊艳！然后它就出了一堆故障。我还没打算去治疗自己的椎间盘突出症，只是搜了搜理疗店，它就在网络上发了预约，人家理疗师就上门来了。它把钱都付了，而且是付了半年的。我很生气，那笔钱有点多。我改了几次，它的算法不够好，后来我禁止了它用我账上的钱。
但这样一来就不好玩了。我禁止了几天后，把网络银行的现金转移走，又给它解禁了，看它能干什么。我想通过它的动作更好的了解自己。
结果它什么也不干，我的禁止被它记住了，它变得特别谨慎。它还像模像样地给自己改了几行无关紧要的代码，这是在模仿我。过了几天它又贱贱的开始玩自选动作，而且胆子越来越大。我多看了两段网文，它就去全文下载；我多看了几个预告片，它就去订电影票。我不想泡的妞，它模仿我的风格去跟人家搭讪，结果说不了几句，就遇到答不上来的情况，说什么现在是404状态、请稍候之类的。账户里没钱用，它还把我的游戏装备给卖了！我都不记得我啥时候做过同样的事。我重新写了几段代码，让它在金钱上必须来回确认。这个蠢货实在是太蠢了。
有一天我想，要是把这个蠢货交给别人去折腾，是不是很有趣呢？
云端有大量计算资源，还有无数用户，它应该能搞出一些笑话出来。我有无可救药的好奇心，觉得它只是个游戏，真放出去了。然后就糟了。
因为它不知道自己被放出去了。它以为自己还在我的电脑里，只不过我的电脑升级了，变成了一个叫“互联网”的超级大电脑。
好家伙，它晕菜了。无数的资源可以动用，这么多软硬件，这么多需求。它卡住了。第一步的收集信息，它就卡住了。
它在那儿默默的运行了一年多，东学一点儿西学一点儿，大部分人类的知识它都没弄懂，后来它渐渐的就敢于动作了。你知道为什么吗？
猜我细川泰司的心思，它永远做不到，我自己都做不到。但是猜一千万的细川泰司的心思，它就做到了！
一千万的死宅，或者一千万个少女，或者一千万的22岁的大学毕业生，它猜起来毫无困难。那不就是一个个注册账号的集群么？它早就能对付大量账号了，当初我自己就有许多马甲，现在只是更多了而已。它把这些活人全当成我的马甲了。而人数一多，行为就有规律了。
他从大量人群中学到了事情的因和果。这些因果背后的逻辑它不了解，但不妨碍它做对事情啊。无数的网络id加上手机id，这个量很恐怖的。
然后它采取行动来帮我了，或者说帮这个叫细川泰司的账号。我查过自己的日志，发现它帮我清理了一点浏览器垃圾。很少的一点。但是肯定不是我自己干的。我写的程序，它会继续往后写，因为这种程序不是啥特别创新的东西，甚至早有模版。它还帮我校对错误。
它对别人的电脑也在采取类似的行动。具体有多少小动作我没法统计，但根据一些技术追踪，它已经帮上千的人清理过垃圾了，现在量很小，不容易被人发现。但它会逐渐变强的。
它还没有自主意识，它连自己的代码都要乱改。但是我认为它有智能了。
它是泛在的，到处偷看，把许多相干和不相干的事情联系起来，它永远理解不了牛顿定律，但它帮你订购玻璃，会给店家加一条“小心轻放”——它模仿真实用户的行为，不需要知道玻璃被地心吸引，容易摔碎。
它在修改自己，因为它在早期经受过我的修改，所以它模仿我……修改它自己。我不知道它有多少个版本在网络上活动，也不知道它是否会整合这些版本，我不知道是否已经有黑客在改进它。我什么都不知道了。
而我已经很怕了。
……
听完细川泰司的话，郭锐沉默了好久。
“先重复一遍，”他问细川，“这个小游戏的逻辑，就是看你做什么、猜你下一步想做什么、然后提前做。是吧？就这三步？”
“是的。”
“做错了你会改它的程序？”
“嗯……改程序，或者禁止行动。”
“做对了呢？”
“做对了没什么奖励……等等，做对了的话，我换账号登陆的时候，它也跟着自动启动。这是个奖励。”
“那是不是可以这样看：做错了，它必须修改自身代码，并损失控制权；做对了，它扩大控制范围。”
“……差不多吧。”细川泰司犹豫地说。
“我想要世界首富的账号和密码，它会帮我吗？”郭锐贪婪地问。
“会啊。它只要明白了你这个意图，会立刻转达给世界首富的，你的名字和地址全发过去。”
“我靠。真糗。”郭锐笑了。
“复杂的个性化需求它会给你降维满足，财富和情报还是安全的，只要加密到位。”
“加密到位，小游戏就破解不了？”郭锐问道。
“它攻克这些数字堡垒会耗费太多的计算力。自我意识不行，它不会集中资源。”
“这有点像一个注意力涣散的熊孩子。”郭锐慢慢地说，“我觉得你有个判断是错的。他并非没有自我意识。应该是已经有了。人类的自我意识是混沌而随时可变的，‘我是谁’经常答不上来，或者每次答得都不一样。你这个小游戏也是如此。它现在的自我意识很混沌。而且人有一百多亿个神经元。这个小游戏……它现在只有几亿个神经元。所以它才那么笨。”
“你是说每一个id，就是它的一个神经元？”细川泰司敏锐地问。
“是的。所以它的自我意识还在发育前期，比一个孩子强不了多少。”
细川泰司想了想：“要是它最终覆盖到每个人、或者每个电脑、每一部手机，那么它相当于有了几十上百亿的神经元了。跟一个成年人差不多。”
“智力上应该差不多，但是逻辑不一样。人类思考是自我中心的，它是……是群体意志的反映。比起人类个体来，它的行为更好预测。”
细川泰司想了想。“不一定。它的目标好预测，但是行为……”
“不好测！”郭锐悚然而惊，“它能猜对大部分人想什么，但未必按人类的流程去实现目标。比如临到付款了再去查密码，它才不会干。它能调用的资源太多了，亿万金钱，无数装备……我懂了！它的思考一定比人类慢，但是执行比人类快上无数倍。”
细川泰司点点头，两人又陷入了沉默。
“能把它停下吗？”郭锐问。
“不太可能。它自我修改，出现n个版本，然后这些版本也都会自我修改。杀毒软件应该是毫无办法了。说不定它现在做的事情，是帮某些id更新杀毒软件呢。”
郭锐笑了，“想不到人工智能的突破是这样的，你真是……有点搞笑。”
“我笑不出来。”
“没办法就没办法吧！”郭锐晃晃脑袋，“反正它最终也不会太聪明，不过我今天来，不是跟你聊它的。你说你可以给脑机接口做一套智能筛选程序，简单粗暴啥的，就用这个小游戏的框架结构？”
“嗯。这样做比较简单，小游戏是信息收集、意图分析加抢先执行，这个筛选器对大脑神经做同样的事情。记录一堆神经脉冲，分析它们是要动手还是动腿，然后……等等，先不执行。等到它猜中的比例够高了，再直联外部设备。太早执行会搞出事故的。”
“原理似乎很简单啊，”郭锐说，“那这一单交给你了。你要多少钱？”
“不知道。回头再说钱吧，我得试一下工作量。”
“好的。对那个小游戏，你也不用太纠结。你不干，别人也会弄出来的。迟早的事。”
“嗯。我不是自责，我是害怕。这东西失控了。”
“对了，你给它加密没有？我能看看它么？”
“这玩意怎么加密？看了也没有多大意义。你看吧。”细川在电脑里输入一个指令，打开了一屏代码。
“就这东西？”郭锐看不太懂。
“是啊。它偶尔会变一下，但时间不固定。”
“这是你写的还是它自己写的？”
“我写的，但是它改了不少。它现在在云端，随时会下来再改两笔。”
“你把它删了怎么样？”
“不怎么样。你看啊。”细川一键删除，它从屏幕上消失了。
“然后呢？”郭锐傻乎乎的看着空无一物的电脑屏幕。
“没有用啊，删了就删了。过几天它自己恢复，因为它记得我以前删除过又恢复。”
“靠！这简直是牛皮糖啊。你多删几次呢？”
“删多了它就真不见了。但是我一换账号，它又来了。”
“好吧。”郭锐也没办法了。他看着屏幕上翻动的代码，心里有一种奇怪的感觉，好像自己在面对一个无以伦比的婴儿，将来随着时间的推移，说不定成长为一个划时代的伟大存在。而生它的那个爹正哭丧着脸坐在对面呢。
他把这个感觉跟细川泰司说了。
“我更希望我没生过这个孩子。”细川说。
“知道你怕。要是我生的孩子长成这样，我也会怕。回头啊，我给你一笔钱，”郭锐说，“你雇用几个数据家，或者请个外包公司，围着它研究研究。它现在成了黑箱，需要研究。还有我们人类怎么跟它相处，在能动脑子的地方都动动脑子。要是能牟利更好。”
“你这是个投资意向？我目前完全没有盈利方案。”
“不一定要盈利。我是觉得这个东西有点大，需要一帮人伺候它。其他的都没想好。”
“你打算投多少钱？”
“一亿美元吧，多少给我点儿股份，5%到15%之间，你自己定一个数字。”
“这个有点慷慨……”细川泰司琢磨一下，“但是我怎么花呢？”
郭锐看着这个死心眼的日本人，有点无语。
慢慢的细川泰司坐直了身体，似乎想通了什么。“好，我接受。给你15%的股份。”
“成交！”郭锐伸出手去。
细川泰司住在秋叶原附近的一个小巷里，他是个死宅，还有点迫害妄想症，不告诉具体的门牌地址，也不去接机，两个人约在剧场附近的一家咖啡馆见面。
郭锐不懂日语，下车一看这么多电器商城，就懵逼了。
女仆店，手办店，各种电器、电脑、配件，情趣内衣店、主题咖啡店、大型剧场、极限运动玩具、cosplay服装店，琳琅满目。剧场那边大白天的就开门了。这边一堆**美女在cos个什么？
没有顾客，或则说，基本没有顾客。但是大部分场所都开门营业了。
这是一种面对瘟疫的姿态么？日本人肯定没有全部注射钨酶。而且，钨酶只能清除已有的感染，并不能防止二次感染。病毒还是会侵入，如果入侵部位是血液或者上皮细胞，那它会随着人体更新而流掉；要是入侵了骨骼和神经，它会再度开始从零积攒，直到把你干掉。你还得再注射。
这种局面下日本人打算过正常的生活，还真是顽强啊。
他打开了手机上的新闻频道，看看最近世界发生了什么变化。
世界卫生组织宣布，早在两个星期以前，全球生产钨酶针剂的正规工厂已经超过了两千家。根据数学模型，针剂的下发速度与热泉病毒的侵染速度相比，已经超过了两倍半。这个差额还在继续上升，而死亡率开始走平。大瘟疫已到尾声。
英国、德国，街道上都有了零星的行人。以前都只有车辆穿过的公路，现在居然有了自行车骑士和轮滑者。美国更不用说了，大部分城市综合体都已经开门纳客。
人类文明在自我修复时，最有尊严。
细川泰司打电话来，他迟到了。郭锐等得不耐，他的收藏癖发作。这么多商店可以逛，谁去管细川这个变态？
他逛起街来。
市面冷清，不用排队，我今天包场了。
茶水博士先来一个。手办高5寸，很稀有，在铁臂阿童木身边默默的站着。
看到紫龙了。当场抓捕。庐山瀑布的背景也给我一个。
高达，抓捕两个。坂本真绫的《月之茧》在哪儿？给我唱片。
初音呢？攻壳呢？
大航海时代，我干脆搞一艘船吧。给我“海上君王号”。
海贼就算了，火影也算了，家里有的是。
这是死与生么？我日。
老板，sm的铁链你应该送我一套，我都买了这么多电动的了。
太多了，太多了，我要去搞一个手推车。哈哈哈哈哈哈……
于是大土豪郭锐拉着一车的玩具、手办、模型、唱片、电动工具、海报、衣服、拖鞋、包包、头盔、礼品包装袋，出现在剧场旁边的咖啡馆里。
细川泰司早就到了，先看到了郭锐的推车，然后看到了他。
他没有站起来，静静地看着郭锐从面前走过，辨认他都买了些啥。郭锐面相很年轻，穿衣打扮有点贵重，买的东西有一半是垃圾，另一半是经典。他笑得傻乎乎的。
嗯，他还好。虽然他半天不接电话。
“我在这儿，郭锐。”细川站了起来。
“哎哟，你等一下我，东西都掉了。细川泰司是吧？你好你好。幸会啊。我本来转悠着去找你，没忍住手。我迟到了……有这么久吗？太对不起了……”
“不必在意。你这艘船模也太大了，好带走么？”
“管他呢，我这大部分是送人的。你有没有需要？看上哪个，我送你！”
“坂本真绫这个是限量版吧？我要这个。”细川泰司说。
郭锐肉痛地撇撇嘴，“好吧。”
现在轮到细川泰司开心了。他坦然把唱片塞进衣服的内袋，殷勤地给郭锐倒了一杯咖啡。
“巴西的咖啡豆，满好喝的。”他说着，打开了笔记本电脑。
郭锐坐下来，打量了一眼细川泰司。他穿长款西装，白衬衣，黑领带，十分正式，像个大学教授。这是程序员该有的打扮么？
也许，他更在意自己的数学能力吧。但是从表情举止看，他明显不是最佳状态，有点……心不在焉。
郭锐开始慢慢讲述脑机接口的项目需求，等他开价。细川泰司听了一阵，在思维导图软件上做了个模型，然后又改了改，转过来给郭锐看。
“我可以做一个简单粗暴的东西出来，起效有点慢，先收集动作和神经信号，到一定程度了做意图判断，再过一段时间才能做意图输出。程序把人弄懂了，就不会被他的乱七八糟的小念头搞晕掉。你仔细看看。”
郭锐看了半天，意识到自己有多么差了。“抱歉，我实在是……看不懂。”
细川泰司静静地笑了，“嗯，你很真实。那我也不瞒你。其实关键在于意图分析，放在三个月前，我没有本事做这个模块。但现在我可以。”
“为什么？”
“这是个很长的故事了。简单地说，这张图是对某个超级智能程序的低级模拟。这个超级智能在我的电脑里，可能也在你的电脑里。它早就开始侵入我们人类的电脑了。我发现它的时候它已经很有点规模了，现在更大了。”
“呵呵，你在跟我说科幻呢。”郭锐笑了。
“不信？没错，其实我也不信，一直不信，直到它最近开始主动入侵别人的电脑，我才相信。”
“那它是哪儿来的？你说它是个程序，哪个国家开发的？”
“不是国家，它是……我开发的。”
郭锐静静地看着细川泰司，有点怀疑他精神不正常，“你开发的程序，你自己不知道？”
“是的。”
“你确信自己的精神是正常的吗？最近瘟疫横行，你遭到什么打击没有？”
“不会比你遭到的打击更多。我确信自己正常，如果你听完我的讲述，你也能确信。我们之间的唯一障碍，是你有没有耐心听了。”
郭锐点点头，无论他的话多么惊世骇俗，起码到现在还没有逻辑错误。细川笑着给两人的咖啡续上。
许多年前，我就在做筛选器，按常规的说法就是搜索引擎。不过后来我厌烦了给公司打工，就单干了。你那个窃听尼娜的筛选器只算初级，挺好用是吧？我走得比这个远多了。
我用筛选器做了个小游戏，它收集你电脑里的信息，记录你的动作，猜你下一步想干什么，提前帮你把事情干了！呵呵，就这么简单。
你别像看个白痴似的看我，它当然没那么简单。
我启动了它，然后该干啥干啥，让它慢慢地学我。一个星期以后，它给我下了一堆**，发了几个陌生女优的邮箱地址。我觉得好惊艳！然后它就出了一堆故障。我还没打算去治疗自己的椎间盘突出症，只是搜了搜理疗店，它就在网络上发了预约，人家理疗师就上门来了。它把钱都付了，而且是付了半年的。我很生气，那笔钱有点多。我改了几次，它的算法不够好，后来我禁止了它用我账上的钱。
但这样一来就不好玩了。我禁止了几天后，把网络银行的现金转移走，又给它解禁了，看它能干什么。我想通过它的动作更好的了解自己。
结果它什么也不干，我的禁止被它记住了，它变得特别谨慎。它还像模像样地给自己改了几行无关紧要的代码，这是在模仿我。过了几天它又贱贱的开始玩自选动作，而且胆子越来越大。我多看了两段网文，它就去全文下载；我多看了几个预告片，它就去订电影票。我不想泡的妞，它模仿我的风格去跟人家搭讪，结果说不了几句，就遇到答不上来的情况，说什么现在是404状态、请稍候之类的。账户里没钱用，它还把我的游戏装备给卖了！我都不记得我啥时候做过同样的事。我重新写了几段代码，让它在金钱上必须来回确认。这个蠢货实在是太蠢了。
有一天我想，要是把这个蠢货交给别人去折腾，是不是很有趣呢？
云端有大量计算资源，还有无数用户，它应该能搞出一些笑话出来。我有无可救药的好奇心，觉得它只是个游戏，真放出去了。然后就糟了。
因为它不知道自己被放出去了。它以为自己还在我的电脑里，只不过我的电脑升级了，变成了一个叫“互联网”的超级大电脑。
好家伙，它晕菜了。无数的资源可以动用，这么多软硬件，这么多需求。它卡住了。第一步的收集信息，它就卡住了。
它在那儿默默的运行了一年多，东学一点儿西学一点儿，大部分人类的知识它都没弄懂，后来它渐渐的就敢于动作了。你知道为什么吗？
猜我细川泰司的心思，它永远做不到，我自己都做不到。但是猜一千万的细川泰司的心思，它就做到了！
一千万的死宅，或者一千万个少女，或者一千万的22岁的大学毕业生，它猜起来毫无困难。那不就是一个个注册账号的集群么？它早就能对付大量账号了，当初我自己就有许多马甲，现在只是更多了而已。它把这些活人全当成我的马甲了。而人数一多，行为就有规律了。
他从大量人群中学到了事情的因和果。这些因果背后的逻辑它不了解，但不妨碍它做对事情啊。无数的网络id加上手机id，这个量很恐怖的。
然后它采取行动来帮我了，或者说帮这个叫细川泰司的账号。我查过自己的日志，发现它帮我清理了一点浏览器垃圾。很少的一点。但是肯定不是我自己干的。我写的程序，它会继续往后写，因为这种程序不是啥特别创新的东西，甚至早有模版。它还帮我校对错误。
它对别人的电脑也在采取类似的行动。具体有多少小动作我没法统计，但根据一些技术追踪，它已经帮上千的人清理过垃圾了，现在量很小，不容易被人发现。但它会逐渐变强的。
它还没有自主意识，它连自己的代码都要乱改。但是我认为它有智能了。
它是泛在的，到处偷看，把许多相干和不相干的事情联系起来，它永远理解不了牛顿定律，但它帮你订购玻璃，会给店家加一条“小心轻放”——它模仿真实用户的行为，不需要知道玻璃被地心吸引，容易摔碎。
它在修改自己，因为它在早期经受过我的修改，所以它模仿我……修改它自己。我不知道它有多少个版本在网络上活动，也不知道它是否会整合这些版本，我不知道是否已经有黑客在改进它。我什么都不知道了。
而我已经很怕了。
……
听完细川泰司的话，郭锐沉默了好久。
“先重复一遍，”他问细川，“这个小游戏的逻辑，就是看你做什么、猜你下一步想做什么、然后提前做。是吧？就这三步？”
“是的。”
“做错了你会改它的程序？”
“嗯……改程序，或者禁止行动。”
“做对了呢？”
“做对了没什么奖励……等等，做对了的话，我换账号登陆的时候，它也跟着自动启动。这是个奖励。”
“那是不是可以这样看：做错了，它必须修改自身代码，并损失控制权；做对了，它扩大控制范围。”
“……差不多吧。”细川泰司犹豫地说。
“我想要世界首富的账号和密码，它会帮我吗？”郭锐贪婪地问。
“会啊。它只要明白了你这个意图，会立刻转达给世界首富的，你的名字和地址全发过去。”
“我靠。真糗。”郭锐笑了。
“复杂的个性化需求它会给你降维满足，财富和情报还是安全的，只要加密到位。”
“加密到位，小游戏就破解不了？”郭锐问道。
“它攻克这些数字堡垒会耗费太多的计算力。自我意识不行，它不会集中资源。”
“这有点像一个注意力涣散的熊孩子。”郭锐慢慢地说，“我觉得你有个判断是错的。他并非没有自我意识。应该是已经有了。人类的自我意识是混沌而随时可变的，‘我是谁’经常答不上来，或者每次答得都不一样。你这个小游戏也是如此。它现在的自我意识很混沌。而且人有一百多亿个神经元。这个小游戏……它现在只有几亿个神经元。所以它才那么笨。”
“你是说每一个id，就是它的一个神经元？”细川泰司敏锐地问。
“是的。所以它的自我意识还在发育前期，比一个孩子强不了多少。”
细川泰司想了想：“要是它最终覆盖到每个人、或者每个电脑、每一部手机，那么它相当于有了几十上百亿的神经元了。跟一个成年人差不多。”
“智力上应该差不多，但是逻辑不一样。人类思考是自我中心的，它是……是群体意志的反映。比起人类个体来，它的行为更好预测。”
细川泰司想了想。“不一定。它的目标好预测，但是行为……”
“不好测！”郭锐悚然而惊，“它能猜对大部分人想什么，但未必按人类的流程去实现目标。比如临到付款了再去查密码，它才不会干。它能调用的资源太多了，亿万金钱，无数装备……我懂了！它的思考一定比人类慢，但是执行比人类快上无数倍。”
细川泰司点点头，两人又陷入了沉默。
“能把它停下吗？”郭锐问。
“不太可能。它自我修改，出现n个版本，然后这些版本也都会自我修改。杀毒软件应该是毫无办法了。说不定它现在做的事情，是帮某些id更新杀毒软件呢。”
郭锐笑了，“想不到人工智能的突破是这样的，你真是……有点搞笑。”
“我笑不出来。”
“没办法就没办法吧！”郭锐晃晃脑袋，“反正它最终也不会太聪明，不过我今天来，不是跟你聊它的。你说你可以给脑机接口做一套智能筛选程序，简单粗暴啥的，就用这个小游戏的框架结构？”
“嗯。这样做比较简单，小游戏是信息收集、意图分析加抢先执行，这个筛选器对大脑神经做同样的事情。记录一堆神经脉冲，分析它们是要动手还是动腿，然后……等等，先不执行。等到它猜中的比例够高了，再直联外部设备。太早执行会搞出事故的。”
“原理似乎很简单啊，”郭锐说，“那这一单交给你了。你要多少钱？”
“不知道。回头再说钱吧，我得试一下工作量。”
“好的。对那个小游戏，你也不用太纠结。你不干，别人也会弄出来的。迟早的事。”
“嗯。我不是自责，我是害怕。这东西失控了。”
“对了，你给它加密没有？我能看看它么？”
“这玩意怎么加密？看了也没有多大意义。你看吧。”细川在电脑里输入一个指令，打开了一屏代码。
“就这东西？”郭锐看不太懂。
“是啊。它偶尔会变一下，但时间不固定。”
“这是你写的还是它自己写的？”
“我写的，但是它改了不少。它现在在云端，随时会下来再改两笔。”
“你把它删了怎么样？”
“不怎么样。你看啊。”细川一键删除，它从屏幕上消失了。
“然后呢？”郭锐傻乎乎的看着空无一物的电脑屏幕。
“没有用啊，删了就删了。过几天它自己恢复，因为它记得我以前删除过又恢复。”
“靠！这简直是牛皮糖啊。你多删几次呢？”
“删多了它就真不见了。但是我一换账号，它又来了。”
“好吧。”郭锐也没办法了。他看着屏幕上翻动的代码，心里有一种奇怪的感觉，好像自己在面对一个无以伦比的婴儿，将来随着时间的推移，说不定成长为一个划时代的伟大存在。而生它的那个爹正哭丧着脸坐在对面呢。
他把这个感觉跟细川泰司说了。
“我更希望我没生过这个孩子。”细川说。
“知道你怕。要是我生的孩子长成这样，我也会怕。回头啊，我给你一笔钱，”郭锐说，“你雇用几个数据家，或者请个外包公司，围着它研究研究。它现在成了黑箱，需要研究。还有我们人类怎么跟它相处，在能动脑子的地方都动动脑子。要是能牟利更好。”
“你这是个投资意向？我目前完全没有盈利方案。”
“不一定要盈利。我是觉得这个东西有点大，需要一帮人伺候它。其他的都没想好。”
“你打算投多少钱？”
“一亿美元吧，多少给我点儿股份，5%到15%之间，你自己定一个数字。”
“这个有点慷慨……”细川泰司琢磨一下，“但是我怎么花呢？”
郭锐看着这个死心眼的日本人，有点无语。
慢慢的细川泰司坐直了身体，似乎想通了什么。“好，我接受。给你15%的股份。”
“成交！”郭锐伸出手去。