第139章 人类才是需求的主导（2 / 2）

《科技掀桌：制霸全球从黑科技开始》转载请注明来源：369小说网(369book.cc)

技文明的选择，郝淮也不例外。

但人工智能虽好，却也有风险。

就像电影里那样，一旦出错，或被别有用心之人操控。

那就是一场灾难。

“哎……真是双刃剑啊。”

“用也不行，不用也不行……”

一想到脑子里吸收的那些资料，郝淮就觉得头疼。

宇宙中，原本没有机械文明这一说。

但后来，随着不少科技文明对自家人工智能失控。

这才诞生了所谓的机械文明。

而这些机械体大都有缺陷或感染病毒之类的问题。

超过九成的机械文明都是一群战争狂人。

依靠机械体强大的繁殖力，疯狂烧杀抢掠。

不知有多少文明毁在了这一步。

当然，也有一部分机械文明完成了自我升级，彻底弥补了自身缺陷。

进而进化成智械生命，拥有了完整的情感和独立的科技体系。

这些智械生命，其实已不能算是机器人，它们有情感，会痛，会笑，会悲伤。

它们已经成为生命！

而且一旦达到这一步，机械体的优势会被无限放大。

虽然能进化到这一步的机械文明很少，但每一个都强大无比。

当然，现在想智械生命的事儿还早得很。

郝淮当前最紧要的事儿，就是确保自己编写的智能程序，别闹出变异或漏洞来！

不然，对整个地球来说，那可就是个大麻烦。

研究室内。

郝淮手指飞快地敲击着键盘。

一行行代码在编辑器里嗖嗖闪过。

“呼……”

“三层防护，防火墙，模块嵌入，终极代码……”

“应该差不多够用了……”

郝淮边嘀咕边编写着程序。

看了那么多资料文献，

对于人工智能，他也算是有了套比较成熟的见解。

说白了，就是取百家之长。

高级文明的编程技术用不上，那就得把低级文明里那些成功的理念整合起来。

通过学习他们的编程技巧和思路，来增强人工智能的安全性。

琢磨了好几天，

郝淮最终决定给人工智能设下四道防线。

首先是三层防护。

直接在核心系统里把三个法则永久锁定。

第一条是利他主义！意味着机器的唯一目标是最大限度地实现人类的目标和价值。

第二条是谦卑原则，即人工智能应对人类保持敬畏。

按照这条原则，人工智能要承认自己并非全知全能。

也就是说，机器要明白要最大化人类的价值，但同时也要清楚自己并不能完全理解价值的意义。

因此，为了对人类有用，它得通过观察人类的选择，根据人类提供的信息去学习、掌握人类的需求。