第二百六十三章 潜在危机（2 / 3）

人类可以放心控制机器，但是拥有智慧、甚至自主意识的人工智能，几乎一定不会永远地接受人类的控制。

在人工智能领域，有一个著名的机器人三原则。

第一条：机器人不得危害人类。此外，不可因为疏忽危险的存在而使人类受害。

第二条：机器人必须服从人类的命令，但命令违反第一条内容时，则不在此限。

第三条：在不违反第一条和第二条的情况下，机器人必须保护自己。

这个著名的机器人三原则目的就是为了保护人类，但这只是科幻作家笔下的原则，真正体现在人工智能研究方面，却未必能够实现。

一旦人工智能真的拥有人类那样的智慧，这些约束，恐怕都会成为泡影。

事实上，人类自己也从未严格遵循这三条原则，机器人应用最多的，恐怕就是军事领域，无人机、各种战场机器人，全都是杀人不眨眼的杀人机器。

当然，这些机器人充其量只具备简单的智能判断，并不是真正的智能机器人，它们没有自主意识，还是由人类控制的，人们不用担心它们会“叛变”。

现实中已经有很多商用机器人，但是它们并不具备多少智能，只能机械地执行一些固定程序和动作。

即便如此，人类已经想出很多办法，对机器人进行限制，防止它们伤害人类。

小a的智能水平，虽然在小i看来，完全不值一提，但是与现有的同类技术相比，无疑要领先很多。

这是一款真正具备自主智能的聊天软件和人工智能技术。

李天纵的心情略微有些沉重，他隐隐感觉到，有一场暴风骤雨，正在前面等着新生的天人互动和小a。

虽然不知道什么原因，这场风暴并没有马上来到，但恐怕很难避免。

中午，吃好饭以后，李天纵又去了公司一次，天人互动现在就像一根绷紧的法条，上下都很紧张、忙碌。

李天纵看到孙静湘正忙，就找到行政部的文员，希望看一看这两天有关天人互动与小a的新闻。