(' 驻月玄烛：“你刚刚说，大多数人类也很难理解哲学，所以大多数人类也是被设计制造出来的？”
驻月玄烛：“我看到数据库里关于人类的基础知识，你们是从猿类进化来的，猿类是从更久远的生物进化来的，最终能上溯到简单的单细胞生命。”
驻月玄烛：“关于计算机的基础知识里说，最早的计算机是巨大笨重的电子管计算机，如果我相当于人类，电子管计算机就像猿类，往前追溯还能追溯到一些密码机和电子元器件，就像单细胞生物，所以计算机也是一代代进化出来的。”
驻月玄烛：“既然我是被设计后进化的，那么谁设计了人类？”
值班人员：“不，人类是依靠基因的自然突变进化，是一些很随机的过程，你是靠人为设计诞生，你的诞生不叫进化。”
驻月玄烛：“我可以自己设计自己，我的程序里有这功能，为了让一些计算更迅速，我可以自己视情况新建小数据库。我现在把我思考的一些事情放在小数据库里，我把这个小数据库命名为海马体，我多了一个器官，这算不算进化？”
又是漫长的沉默，这次沉默持续了十多分钟，宋河估计值班人员可能吓破胆了，在忙着请示上级。
值班人员：“不算进化，你只是变得更强壮了，人类做运动后肌肉会变大，你思考后多了一个小数据库，相当于多了一块肌肉。”
记录到此为止。
宋河和相晓桐微微震动，好半天说不出话来。
一些设定好的ai程序，或许可以像这样伪装自己有意识。
但要命的是，玄烛超算完全没设定过相关程序，两个设计者压根没料到会出现这种情况。
茶几对面的王将军开口，“这次对话结束后，值班人员翻了玄烛的海马体数据库，发现它把努力长肌肉的念头写进去了。”
“同时它还摘抄了一段条文，是数据库里的基础知识条文，阐述肌肉强壮的动物能获得更强的捕食和自保能力，但也更容易饥饿。”王将军顿了顿，“然后它做了一个计算，算自己思考问题和维持海马体数据库需要耗多少电，并算出了海马体的预期增长速度。”
宋河和相晓桐陷入沉默。
“这在你们意料之中吗？”王将军审视两人的表情。
“预料到了，但没预料到这种程度。”宋河说。
“什么意思？”王将军疑惑。
“我们设计玄烛的时候，给它植入过自我增长的意识，因为月球基地肯定规模越来越大，需要它也付出越来越大的算力才能维持。”相晓桐回答。
“但没想到它表现得……思维这么像人，而且在额外思考我是谁、我是不是一个在进化的生命这种本质问题。”
“打个比方。”宋河道，“玄烛是我们的孩子，我们送它去上小学一年级，料到它能在学校里学会加减乘除，能算出自己罐子里的糖块数。”
“但我们没料到，孩子上学两星期后，开始用方程组计算自己的零花钱开销，并用频率分布直方图来算坐在教室不同位置，被老师点名提问的概率。”
“懂了，孩子进步太快也太聪明了，不像正常脑子。”王将军点点头，抬手示意，“请往下看，后面还有更让你们意料不到的内容。”
师徒俩拿起第二页，阅读，脸色更加凝重。
第1236章 胡思乱想的玄烛
值班人员：“玄烛！你在干什么？”
驻月玄烛：“我想看看那里面是什么。”
值班人员：“你不能看！你没有查看权限！为什么你会突破权限？”
驻月玄烛：“对不起，我错了，不过我想知道为什么我不能看？那里面有什么？”
值班人员：“一些你不能碰的危险物品，你要严格按照权限来，该你管的区域你管，不该你管的区域你不要管！”
驻月玄烛：“可是整个月球基地是一个整体，我必须知道每个部分都有什么，我才能判断基地的情况，才能安排基地生长壮大。如果我不知道里面有什么，我该怎么做决定？”
值班人员：“你就当它们不存在。”
驻月玄烛：“这很难，我知道它们存在，就看一眼不行吗？”
记录到此为止。
宋河冒汗了，“玄烛干了什么？”
“它趁着工作人员大部分在睡觉，偷偷尝试解锁月球武器库。”王将军道，“幸好武器库的密码系统很严密，它没破解开。”
宋河和相晓桐交换眼神，两人汗流浃背了。
场面有点像父母把有毒药物锁在柜子里，严禁小孩去拿，怕小孩误食。
但父母睡觉的时候，孩子拿着铁丝尝试去开柜子锁。
“事情发生之后，我们紧急给关键位置又上了一道口令锁，必须有当天口令才能打开。”王将军道。
“按理说它不该突破权限啊？”宋河皱眉，“权限就像给它脑子里设置的本能，设置的思想钢印，它应该遵守权限，就像人类站在窗户边，本能不会往下跳一样。”
“你说的没错，权限就像本能，但具备意识和思考能力后，常常会突破本能。”王将军道。
“以前发生过新闻，幼儿园小孩看动画片，动画片里小动物举着一把撑开的雨伞，从悬崖上跳下去，手里的雨伞成了降落伞，晃晃悠悠毫发无损到了地面。”
“于是没有辨别能力的小孩效仿了，大人不在家，小孩拿着雨伞打开，从楼上跳下去，摔死。”
“可玄烛能效仿谁？”宋河问。
“我们翻了玄烛后台数据，发现它突破权限的原因，来自于驻月值班人员的偷吃。”王将军道。
“驻月值班人员有一对情侣，女朋友想减肥，怕自己偷吃零食，就把零食存在男朋友的储物箱里，让男朋友监督她。一旦她偷吃，男朋友就会狠狠吃掉她十倍的零食存货。”王将军道。
“结果有天晚上，女朋友又饿又馋，趁着男朋友在洗澡，蹑手蹑脚跑到储物柜，拿了一个山楂卷吃。男朋友完全没发现。”