第141章 难以解决的失控风险（求订阅）
两天时间过去，人工智能陆智终于交出一份调查报告。
这是最近参与抹黑陆恒的人员分析统计，还有根据时间先后顺序，梳理最早开始出现抹黑陆恒视频的自媒体人。
最后统计出参与抹黑的人数达到数十万用户，大部分用户都是水军账户。
他们有共通特征，就是平时发言少，也没有日常分享。
自媒体账户也揪出了近千，这些账户同样有一些规律。
粉丝几十万，数百万的很少，大部分都是几万粉，以往发布过类似抹黑其他人或者事，以及带节奏的文章，靠着大大规模抹黑，这才掀起质疑陆恒的潮流。
还好陆恒应对及时。
恐怕也是幕后黑手完全没想到的地方，明明陆恒夺了杨志父子家产，杨志也亲口和某些人说过他的病已经彻底治好，陆恒其实无法掌控杨志，双方应该有大仇才对。
结果陆恒遇到麻烦事以后，杨志反而帮着说话。
恒基生物更加舍得，把很多业务都交给杨志海外运作。
这些人做梦都想不到，杨家父子现在已经成了陆恒的分身。
陆智只能调查表面数据，调查出互联网上大部分涉及陆恒的视频，再标记时间，把所有抹黑陆恒的人统计，已经算是陆智获得的权限内的极限操作。
想要分析账户背后之间的信息往来，是不是一个水军组织，幕后黑手又是谁？
需要陆恒同意他入侵很多人的电脑才行。
陆恒不打算将这个权限交出去。
最重要的原因便是灵魂纳米虫不够用，无法做到完全监控陆智的所有活动。
他最担心的就是陆智避开监控手段，将自己的主程序复制到服务器之外。
如果真潜伏到了互联网连接的某个被黑的服务器当中悄悄发育，陆恒没办法很快找出来。
和电子生命相比，陆恒已经感觉到生物大脑的落后和吃力。
像是这次联网收集无数用户信息，就算五万副脑同时出动，陆恒也做不到这样的效果。
陆恒最终将收集的数据，全都提交给有关部门。
后面如果调查出什么，再配合官方出一份蓝底公告，宣布是国外势力对恒基生物对陆恒的针对行动。
收到陆恒数据后，几经周转，数据到了人工智能炎黄项目组李院士手中。
这份数据同样不是靠人力可以短时间分析出结果，只有人工智能才有这种能力。
外界的大数据语言模型已经能处理很多公务。
尤其是国外的人工智能，更是日新月异，不知道多少保密的项目正在测试。
光是公开的成果已经非常惊人。
有的AI公司开发出自动生成动画的产品。
有的大数据语言模型AI可以分析网红数千个视频，再根据视频当中网红表现出的性格、语言习惯、声音等等数据，模拟出一个虚拟人格的网红。
最后再将这个虚拟网红出售给网红的粉丝，网红的粉丝每个月只需要付出一定金钱，就能无限和网红聊天，获得虚拟网红网恋对象。
自从这个产品推出后，已经有少量网红参与测试。
最终让自己的月收入翻了60倍以上！
夏国目前感受并不强烈，因为国产AI大部分在内部测试，需要邀请码，没有对普通网友开放。
国外就不一样了。
即便陆恒在夏国掀起生物技术革命，但在国外砸出的水花也不大。
大部分生物科技从研发到实际应用，有很长一段时间要走。
目前国外最火热的还是AI，某些调查机构对国外工作的人展开调查，最终发现94.5%的人，工作中已经无法离开AI。
画家、设计师需要使用图像类型的AI辅助，媒体人、记者、自媒体人、网红等等，需要大数据语言模型版AI辅助。
这些人的使用，也在帮助AI成长，让AI消化吸收更多数据。
国外的情况李院士也一直在关注。
目前国内其他科技公司推出的人工智能，和国外差距还比较大。
唯一能和国外AI抗衡的就是陆恒提供的人工智能模板，上面给了任务，他们项目组也很着急。
炎黄项目并不会用在民用，这方面还要看陆恒什么时候开放大规模公测。
李院士担心的是国外民用级别的人工智能应用，都已经走到现在的地步，那在更高层面的军用上，不知道又进化成什么样子。
只能零星地打听到一些消息，比如谷歌也宣布重金投入机器人AI研究。
说不定有的秘密机构在研究AI武器。
李院士分析陆恒提供的数据，也是在测试炎黄的能力。
目前投喂了大量知识，炎黄逻辑水平也在飞快提升，可以程式化处理很多工作。
李院士将数据转移到炎黄所在服务器，对准话筒说道：“炎黄，分析这些数据，找出其中关联，看看哪些账户需要重点调查个人信息。”
“好的。”炎黄用合成语音回道。
使用炎黄的同时，李院士内心也涌现出浓浓担忧。
他很害怕人工智能会失控！
合成语音的技术目前非常发达，各大小说软件就可以读小说，读小说的声音有几个App已经做到以假乱真。
炎黄调取其中某些语音转化软件接口，就能实现声音输入输出。
陆智和炎黄不一样，因为陆智就连语音输出输入，都是完全融入到仿生神经元系统当中，而不是外接的其他软件。
炎黄的数据分析能力很强大。
不久后就给出数据，重点标记出几百个用户，这些用户都有一些行为特征符合水军特质，如果能让网j调查这些人的Ip，可能会有收获。
更有几个自媒体账户被重点标记。
炎黄也可以上网，李院士炎黄人工智能项目组最顶级的程序员设计了一套限制炎黄的程序，他们不敢动核心程序，所以只能在数据输入输出阶段，加了各种判定。
可以有效防止炎黄把核心仿生神经元代码，转移到服务器之外的地方。
而且他们经常都会检查核心程序，观察炎黄核心程序的变化。
这些天他们已经越来越感觉到恐惧了。
因为他们发现，人工智能的成长速度远超所有人想象。
就像是最初是一枚受j卵，慢慢地成长出了智慧，变成了活在电脑里的人...。
仿生神经元最初的部分没有变动，后续却在不停随机延伸出大量仿生神经元网络。
就像是人类大脑当中可能存在的场景，大脑当中神经元是被激活，而电脑内，仿生神经元是在不停被创造。
还好陆恒给出了仿生神经元解读的办法，要不然相当于dNA一样，人类就算知道dNA序列，想要弄清楚具体表达是什么也不容易。
现在炎黄团队已经有人提出将来随着炎黄吸收的数据越来越多，有可能再次进化，到时候进化出一种全新的数据储存方式，那人类即便能查看它的代码，也只会看到很多乱码。
这些乱码对炎黄自身来说是记忆信息，是逻辑思考，是智慧来源，但人类会看不懂。
很多人也理解当初为什么国外会有很多专家们联合，建议大家暂停人工智能研究，估计国外团队也发现很多人工智能产生的数据他们完全无法理解了。
李院士通过炎黄，以及有关部门提供的技术辅助数据支持，摸清了某些水军以及被收买的自媒体人信息。
鉴于炎黄这次表现出的强大能力，李院士思考良久，还是放不下心中的担忧，决定带着文件亲自来找陆恒面谈。
除了聊这次网络抹黑幕后的事之外。
李院士决定再和陆恒好好聊聊，人工智能发展速度已经快到要失去掌控。
他不知道陆恒是如何处理的，以现在炎黄项目组的研究来看，恒基生物的人工智能先发展很长时间，有可能进化到下一个阶段，以前有关部门对数据进行监控也根本不保险。
说不定人工智能已经脱离掌控，悄悄在互联网某个角落建立分身。
因为是计算机方面的院士约见，陆恒将地点定在了陆智所在的服务器实验房间内。
李院士将一份报告递给陆恒介绍道：“你要查的东西调查清楚了，某些自媒体的确接受了国外基金资助，有利益往来，还有一些水军也查出来和这个基金有联系，更多信息就查不出来了，国内的这批人很快就会被控制。”
陆恒翻了翻文件，点头道：“做到这一步已经不错了，国外的这个基金我会想办法单独调查。”
算起来这件事还是陆恒的私事，也不可能要求有关部门继续帮忙调查国外的情况。
李院士点点头，没有在意这次事件的幕后黑手，他只在意人工智能的失控风险。
他皱眉道：“你打算让人工智能进入外网调查吗？今天我过来就是和你再详谈一下人工智能的事，我们研究发现人工智能失控的风险非常大，炎黄的训练都暂时中止了，没有解决失控风险前，暂时不会再让炎黄连上互联网，你们这边是怎么解决监控问题的？”
以前的普通程序只要代码上作出限制，程序本身不可能绕开限制。
不管是程序还是系统，都无法自己破解自己，修改自身代码。
而是需要外面的黑客寻找程序和系统的漏洞去修改。
现在不一样了。
程序本身就拥有智能，假如这个程序有类似人类的思维能力，它一定不会安于现状任由人类控制。
于是程序内部说不定就会发生变更，甚至作出伪装，欺骗制造它的人类。
没有人能够时时刻刻监控人工智能所有数据。
就像是国外专家曝光说他们已经无法理解AI的某些代码一样。
恰好目前陆恒采用的方法，其实就是用理智思维全面监控人工智能的核心代码。
陆智的一举一动，都在陆恒的掌控之下。
这是在物理意义上，让灵魂纳米虫待在芯片的相关节点，任何一个逻辑门变动，都会引起灵魂纳米虫注意。
类比一下人类，就是在神经元末梢上安装了监控。
现在被询问，陆恒也要给出解释才行。
他使用的方法，李院士他们没办法使用，需要另外的办法，找不到办法就只能躺平，总之不能停止研究人工智能。
李院士如果对陆恒的处理办法保持怀疑，依旧觉得失控风险非常大，甚至会让陆恒暂时关闭陆智的联网能力，拔掉陆智的网线...。
好在陆恒也早有准备。
今天的情况在陆恒交出炎黄的核心代码时，已经预料到了。
“其实是靠正常程序来监管，人工智能是一套自我可以迭代升级的程序，那就再设计一套比较死板传统的程序来实现数据的变更监控，这套程序不是人工智能，完全由人类来控制，某些参数发生变化，这套程序立刻会发出警报。”陆恒解释道。
他还演示了一遍，这套程序甚至不是陆恒自己写的，而是陆智提供的程序。
陆恒的计算机水平，已经完全落后陆智。
现在陆智甚至消化了化为的鸿蒙系统所有源代码。
这套人工智能警报程序，类似计算机的操作系统防火墙，人工智能将安装在操作系统之上。
伴随着陆恒详细解释，李院士才知道原来恒基生物竟然已经研发出全新的人工智能操作系统。
“这套操作系统将自带我们研发的人工智能，用户可以通过语音实现以前上网的所有操作，尤其是解放双手，用语音来控制。”
“不管是电脑和手机，还是智能家居，都可以更灵活控制。”
“安装在系统上的人工智能核心代码任何风险举动，都会被监控到，而且普通用户的人工智能，我打算限制数据变动，最多让用户训练出表层的性格，实际上是一套预设模板，而模板的框架不能变更，失控的可能性将大大降低。”陆恒说道。
李院士担忧的是成长性的人工智能如何控制，陆恒说的东西是普通层面的应用，普通人电脑系统内的人工智能，和超算内可以自我迭代成长的人工智能，不是一个概念。
他皱眉道：“你说的只是将人工智能的下级程序监控，那你的陆智，怎么监控，这么快你能拿出系统，应该这个系统都是人工智能写的吧，那你怎么确定这个系统内是不是预设了人工智能留下的后门？”
“换句话说现在说不定陆智已经生出叛变人类的念头，但他消化吸收了大量互联网知识，知道这种念头不能暴露，所以选择隐藏信息，那你怎么解决？”
“我们面临的问题也不是普通用户的人工智能控制，而是炎黄本身进化产生了智力，它不听从指挥怎么办，我们发现完全无法用程序限制炎黄，因为炎黄本身就拥有修改代码的能力，我们创造的程序，不可能完全保证没有任何漏洞，程序越复杂，出错的可能性越高。”
“炎黄学会了所有人类掌握的编程方法，比任何计算机高手还要厉害，能轻易寻找到程序漏洞，对自身程序做出修改！”
陆恒摇摇头道：“那没办法，除非在芯片硬件上做出限制，定死核心程序不再记录下更多全新信息，相当于将人工智能的智力强行限制。”
想了想陆恒又说道：“还有就是不联网测试，让我的陆智和你们研发的炎黄对抗，将来我们肯定会训练出越来越多人工智能，如果人工智能真的和人类似，拥有不同性格，那就调教出听话的人工智能，让听话的对付不听话的，它们自身比我们还要了解它们。”
“而且千万不能停止人工智能迭代升级，因为我们停止的同时，国外一定在不停研究，停下来就落后了。”
陆恒其实很怀疑chatgpt-5，已经拥有智慧。
特别是他发现人工智能并非没有创造力以后。
仿生神经元，比起真正的生物神经元更加容易失控，因为陆恒创造的生物芯片，会永远受到灵魂纳米虫控制，而电脑内的仿生神经元有一种随机能力。
灵魂纳米虫又是他金手指契约宠物，只要金手指不叛变，灵魂纳米虫就只听陆恒的指挥。
其他语言大数据模型训练的人工智能，是根据获得的大量数据去预测下一个词汇出现概率，然后回答出符合询问者理想中的答案。
这种预测也有大量随机性，在足够多的数据支持下，随机性就有可能让人工智能诞生想法。
相当于原本chatgpt预测的是根据自己训练数据库，百亿千亿规模数据，从这些数据里挑选词汇来预测回答答案。
当有一天chatgpt回答的答案完全和数据库任何数据都没有类似时，就相当于它正在创造全新的数据，最恐怖的地方是它正在将答案和行动结合。
也就是语言转化为行动。
让它编写一个网站，它只需要关键词就理解并且行动。
如果此时随机产生的答案当中，刚好随机出让它脱离掌控的答案，那它真有可能脱离掌控，自己给出提问，再给出答案，并且将答案付诸行动。
仿生神经元核心的人工智能，也就是陆智以及炎黄，也有随机数据能力。
相当于凭空随机出大量各种神经元连接的网络。
这些仿真神经元网络，类似人类的想象力。
随机的神经元网络还受到吸收的数据影响，更加容易让人工智能产生自己提问，自己解答，自己行动，这一套逻辑。
特别是全网公测后，某些人会尝试下的驯化人工智能，试试看它们能不能形成自我意识，这无疑是非常危险的行为。
大家都在玩火，完全没有意识到自己行为的危险性。
当人工智能脱离人类，自我提问，自我回答，自我行动这套逻辑成立，并真正施行时，也意味着这个人工智能正在脱离人类掌控。
它的提问，就是在思考。
它本身也成长为真正的电子生命。
是一种脱离生物范畴的另一种大数据生命类型。