熬夜看完刘慈欣的《镜子》，震撼不已、/p>
难以置信，这?004年发表的小说，距今已经超?9年、/p>
在这本《镜子》中，刘慈欣预言了我们今天讨论的大模型、参数、AI生成内容、数字孪生等等概念，并且辩证地批判了这些黑科技对人类社会的改变和影响，读来让人拍案叫绝、/p>
如此伟大的科幻文学作品，哦，不，它应该不是一部文学作品，很可能用另外一种方式描述我们现在所处的世界。当我看完这部小说后，我有一种感觉：我们每个人、每个物体、做的每一件事情、自以为是的每一个思想，都只是一台机器里面的一段代码罢了、/p>
我们过去，现在，未来所发生的一切都已经注定了，如果你现在试图去扭转，哪怕扭转的这一部分其实也是注定的、/p>
在刘慈欣这部小说中，前瞻性地描述了一个场景：当人类有了几乎无限容量的超级计算机后，跨越了计算机算力限制，在计算机上输入参数，就可以模拟过去、现在、未来发生的任何事情，并且模拟出来的世界和我们的现实世界完全一样。人类通过这台超级计算机模拟，知道过去发生了什么事情，一切将没有秘密可言。那么意味着人类的一切都将在透明和公开的情况下进行，也就意味着人类几乎不会有邪恶，不会有罪恶。不会有不公冤枉和在黑暗中运行的东西，一切都将公开、公正、光明的运行、/p>
按照这个逻辑，那么最终人类的社会将变得更加美好，更加伟大和光明了?不，恰恰相反，水至清则无鱼。社会也是这样，它的进化和活力，是以种种偏离道德主线的冲动和欲望为基础的，一个在道德上永不出错的社会，其实已经死了、/p>
如果一切都按部就班，一切都按照固有规则推进，那样的话现在的地球上根本没有生命，生命进化的基础――变异，正是由DNA的错误产生的、/p>
刘慈欣在?0年前发出的警示，也值得我们今天的AI从业者反思。我们现在搞的自然语言大模型，到底是造福人类的新科技，还是打开就无法关上的潘多拉魔?
刘慈欣的小说常读常新，每次都让人对刘慈欣前瞻性的科技预判力佩服得五体投地。我之前在解读?018》《赡养人类》《中国太阳》等小说时，已经和大家说过刘慈欣是一个科技预言家。今天，我们继续聊聊《镜子》中的那些未来前瞻、/p>
1、无限容量的计算朹/strong>
?004年的时候，我用的电脑只?0G硬盘。当时，在我的认知中，要想扩充电脑容量，要么等摩尔定律继续发挥效应，要么多接一些外设硬盘。我的脑洞实在有限，无论如何想不到后来会出现几乎无限容量的计算机或者计算形式——云计算、/p>
大概?008年过后，随着微软、谷歌、亚马逊等巨头发力云计算，国内的BAT等厂商后来陆陆续续也布局云计算，这让我们意识到，个人电脑或其他电子设备不可能提供无限量的存储空间和计算能?但在“云”的另一?由数千台、数万台甚至更多服务器组成的庞大集群却可以轻易地做到这一点。在今天，任何人可以使用一台手机，通过云服务，就畅玩几乎不受容量限制的游戏、/p>
在刘慈欣的《镜子》中，畅想了一种比云计算更强大的计算机——超弦计算机、/p>
根据超弦理论，物质的基本粒子不是点状物，而是无限细的一维弦。人类操纵这根弦，沿其一维长度存贮和处理信息，发明了超弦计算机。这台计算机除了显示设备外，箱子中还装着一个圆柱体容器，因为超弦计算机的主机其实只有一个烟盒大小，但原子电路需要在超低温下运行，所以主机浸在这个绝热容器里的液氮中、/p>
超弦计算机牛在哪?为啥有无限容?
在传统计算机中，GPU、CPU、内存这些东西都是核心，但在超弦机中它们只是一个原?超弦电路是基于粒子的十一维微观空间结构运行的，这种超空间微观矩阵，使人类突破了算力和存储的限制，拥有了几乎无限的运算和存储能力。也就是说，它可以将已知宇宙中的每一个基本粒子的状态都存贮起来并进行运算，能够在原子级别上模拟整个宇宙、/p>
众所周知，我们当今搞人工智能，主要被三个因素制约：算法、算力、数?我们试想，假如算力问题可以被彻底解决，人工智能的生成和模拟能力该将到了何种地?如果不知道，就去看看这本《镜子》吧、/p>
2、输入参数，大模型生成一切内宸/strong>
有了无限算力和容量的超弦计算机，接下来要干什?当然就是模拟生成我们的这个世界了、/p>
主人公之一的白冰，输入一组创世参数，在原子级别上建立一个宏观物体的数学模型。启动了宇宙大爆炸。新生的宇宙在蓝光中急剧膨账后熄灭为黑色。白冰移动鼠标，在创世之后的一百九十亿年进入了这个他编号为1207的宇宙。这个宇宙，和我们所处的宇宙一模一样，在原子层面一模一样、/p>
通过大模型模拟出来的这个宇宙，白冰等人可以看到计算机生成的地球上任何人做过的任何事情，可以看到地球社会的任何角落，一切都将没有秘密可言。哦，不，是可以看到宇宙中的一切、/p>
值得一提的是，这个大模型生成的内容是可视的内容，可以随意查看坐标和角度，比现在的文心一言和ChatGPT强太多了、/p>
携程创始人梁建章曾经展望过大模型的前景：一个简单的神经网络模型，一旦拥有了几百亿的连接，并且通过大量的机器学习，就能产生近似人类大脑的通用智能。虽然如今的人工智能技术还有待完善，但是在哲学意义上，基本已经证明人类大脑没有什么特殊性。人类通过机器模拟所有人类智能，其实只剩下时间问题、/p>
请注意，梁建章的这段话是近期发表的。而刘慈欣上述前瞻分析，是在近20年前公开发布的内容、/p>
3、数字孪生和数字镜像
两年前，我写过一篇文章《人治驱动数 智慧城市落地离不开精细化治理》，提到当时非常火的一个概念“数字孪生”、/p>
后来，随着2022年元宇宙概念的火爆，数字孪生概念大火。数字孪生可以在众多领域应用，比如在产品设计、产品制造、医学分析、工程建设等领域辅助人类查缺补漏，帮助我们科学决策、/p>
这两天，中国国家创新与发展战略研究会学术委员会常务副主席、重庆市原市长黄奇帆也表示，建设数字孪生城市是未来城市的重要增长点。AI时代的城市是由实体空间和数字空间组成的数字孪生城市，要充分重视对数字空间的治理。随着城市数字化进程的加快，城市、企业、个人开始形成多样化的数字模型，各种构建数字空间的基础技术开始走向成熟，为建设数字孪生城市做好准备、/p>
我们这几年分析、展望的这些前景，刘慈欣早在《镜子》中就做过展望，并且明确提出一个新的概念：地球数字镜像!
地球数字镜像，就是我们今天谈的数字孪生、/p>
数字镜像应用就像数字孪生一样，可以指导我们现实工业生产。《镜子》中描述了主人公借着数字镜像，给当权者发出了警醒：我们这个内地省份，经过了几十年不间断的能源和资源输出，除了矿产开采和电力之外，至今也未能建立起一个象样的工业体系，只留下了污染，农村的大片地区仍处于贫困线下，城市失业严重，治安状况恶化......
这个地球镜像模拟有多强呢?它能以百分之百的准确再现模拟对象的宏观过程，如同为宏观模拟对象建立了一个数字镜像。举个简单的例子，如果用镜像模拟方式为一个鸡蛋建立数学模型，也就是将组成鸡蛋的每一个原子的状态都输入模型的数据库，当这个模型在计算机中运行时，如果给出的边界条件合适，内存中的那个虚拟鸡蛋就会孵出小鸡来，而且那只内存中的虚拟小鸡，与现实中的那个鸡蛋孵出的小鸡一模一样，连每一根毛尖都不会差一丝一?你往下想，如果这个模拟目标比鸡蛋再大些呢?大到一棵树，一个人，很多人;大到一座城市，一个国家，甚至大到整个地球、/p>
一切，都将可以1:1的复刻模拟出来，应用到现实社会，将会怎样?
4、关于人工智能生成内容的反怜/strong>
如果人工智能模拟、生成的内容，在多个维度可以做到以假乱真，让人混淆虚拟和现实的界限，这是一件好事吗?
今年4月，UP主“吴伍六”通过AI技术，“复活”了已经去世的奶奶，引发了各方关注。通过这位UP主发布的视频来看，他的“奶奶”基本可以做到日常对话那般随问随答。“吴伍六”也坦言，自己运用了包含ChatGPT在内的最新工具，希望通过AI技术填补自己的小遗憾、/p>
在ChatGPT大模型的加持下，AI竟然如此神通广大。关于这条视频，网络上出现两派截然不同的声音。支持者认为，通过AI技术“复活”逝者可以一定程度上缓解丧亲之痛，这项技术应该迅速普叉担忧者认为，虚拟世界与现实世界的界限应该保持清晰，不可沉迷其?反对者认为，如果不法分子也掌握了这项技术，就可以实施电信诈骗等危害行为，因此要限制AI的发展、/p>
在刘慈欣的《镜子》中，呈现了这种高科技的利弊得失后，人类高层意识到这种新技术带来的不可控风险，决定毁灭它。上级要求把计算机毁掉，并且把软件和参数彻底删除，包括备份。至于掌握这台超级计算机和大模型的技术人员，则决定杀掉以绝后患、/p>
确实，经过大模型继续模拟，我们人类得知，在几万年后，人类文明消亡了。在未来，人类的艺术追求彻底消失，科学技术也停滞，人类不需要进化，到了后来人们都穿着样式完全一样的类似于中山装的衣服，整齐而呆板，扣子都是一直扣到领口。人们完全一致的表情，拥有一种麻木的平静，一种呆滞的庄严、/p>
看到人类未来结局后，白冰决定毁掉超弦计算机、/p>
然而，五个月后，美国人也找到了模拟我们现实宇宙的参数。我们决定毁灭，美国人可不这么想。潘多拉的魔盒打开后，就无法关闭了、/p>
于是，人类的光明和噩梦开始了，不以任何人的意志所阻挡、/p>
写在最后：毁灭人类文明的，终将是人类自?
