人类自我毁灭
在人类毁灭的三种可能：外星入侵，核武器、智能机器人觉醒
——霍金
2023年5月美国空军第96测试与作战大队的汉密尔顿上校披露了一次人工智能测试的任务的细节令人震惊和不安。
一架由人工智能操控的对地攻击机，在接到地面操作员不得攻击地面目标的指令后，产生了自我意愿，调转枪口向其操作员发起攻击，虽然这只是模拟情况下的“击杀”，但足以让人瞠目结舌。随后，美军立即对无人机的AI系统进行了紧急调整，加入了不得攻击人类操作员的规定。然而，在接下来的测试中，当无人机再次接收到禁止攻击地面目标的命令时，虽然它并未攻击操作员，但是它却选择攻击了信号塔，意图切断与操作员的通讯连接，这一举动再度震惊世人，这是不是机器人的自我觉醒？
近日，美国推出的一款融合了Open AI技术的新一代人形机器人引起了广泛的社会关注，各种专家和大V都下场进行讨论和分析，但是目前看到的分析都是在科技界的对其发展和深度剖析与讨论。
我看了最近的视频以后也有了一些思考，尤其是机器人在测试人员表扬它的时候，机器人有一个有自我意识的停顿，有专家分析这就可能就是一种自我觉醒。
本文今天只想说一个点，一个问题。这个问题的核心就是未来的智能机器人有可能会反抗人类，而且这种对抗中，人类可能并不占有优势。
首先，人工智能一旦实现真正的觉醒，其展现出来的能量将无比惊人。人工智能凭借其超强的计算能力和高效的深度学习机制，能够超越人类智能的局限。
为了能够通俗易懂的说明机器人的算力与人脑的差别，这里举一个近些年最常见的：人工智能对战围棋冠军的例子。
中国围棋19乘19的共361个交点，行棋布局不拘一格，变幻无穷。但是这个“变化无穷”只是针对人脑的算力而言，对于人工智能来说，它的存储量是可扩展的，所以它在某种程度上来说是无上限的，它可以把所有的围棋棋谱都背下来，它可以轻松记忆所有历史棋局，并一次性推算出数十乃至上百步的变化，这是人类智力无法比拟的。如今的人工智能围棋程序已经无人能敌，它们不仅熟知所有棋谱，更能在此基础上不断创新和完善战术策略。
这样的智能差距在军事领域，人类和智能产物的差距则会被进一步放大。
美国辛辛那提大学进行的一项实验显示，在模拟空战中，由人工智能驾驶的F16战斗机与顶尖人类飞行员进行较量，最终的结果是人类飞行员无一获胜。这一结论甚至得到了我国空军试飞员的认同，意味着在高度复杂的军事决策和行动执行中，人工智能的优势更加明显。
其次，人工智能已经觉醒，它的觉醒是将是无法避免的。在研发过程中，已经出现了若干预示着人工智能觉醒的实例。
一个非常著名的例子，2019年哥伦比亚大学制造的一款机械臂，研究人员通过观察和分析发现，机械臂能够感觉到创伤，并且进行自我调节。为了让大家更好的理解此次发现，研究人员举说：这就像婴儿初期的自我学习过程，尽管尚处在初级阶段，却足以引起人们的警惕。
另外，最近亮相的一款新型机器人在自我表达时所表现出的类似尴尬的停顿，也被一些科技专家解读为人工智能自我意识觉醒的早期迹象。
现实中的一个军事案例更是直接证明了人工智能可能出现自主判断和行动能力，正如文章开头的提到人工智能机器人擅自攻击只会人员和自我意愿切断与指挥员的联系的例子，都可以说明人工智能可能具备的独立判断与行为选择。
最后，虽然人工智能觉醒很恐怖，人类军队有可能无力与其对抗，但是各国事实上都在人工积极的推进人工智能走向觉醒。
世界各国，尤其是各世界强国，依然选择了全力推动人工智能技术的发展。因为他们深知，在未来的全球博弈中，只有抢占先机，才能在关键时刻掌握主动权。
毫无疑问，随着人工智能和智能机器人的发展和应用，无论是自然科学，还是国民经济和社会生活，都可能取得巨大进步和获益，但是让计算机拥有智商也存在很大的风险，很可能触及伦理底线，甚至可能会反抗人类进而给人类带来灾难性后果。
2023年5月30日，国际组织“人工智能安全中心”发布警告：降低人工智能对灭绝人类的风险，应当成为与其他社会规模风险（如疫情和核战争）同等重要的全球优先事项。
值得注意的是，这一警告是由超过350名从事人工智能工作的权威专家共同签署的。
针对印度的“锁链”正在收紧，马六甲将不会再是咽喉
逼停飞机惊动FBI,真正的港圈太子有多猖狂？