从2016年AlphaGo横空出世到今天已经快4年了，对于围棋本身，它的出现改变了人类现代围棋理论，改变了我们对价值的判断观念，而对于围棋届之外的许多人，比如老梁，对于这种人工智能的出现是带着深深忧虑的。
老梁，原名梁宏达，1972年2月20日出生于黑龙江省，毕业于黑龙江大学新闻系，是著名资深媒体编辑、评论人。在电视、网络上的《老梁故事汇》，《老梁看世界》，《老梁有话说》等节目中以其伶俐的口齿和独到的见解广受观众喜爱与好评。名嘴老梁博闻强识，对很多领域都有涉猎，围棋方面也水平不俗，是业余3段。
老梁的担忧源自AI和世界冠军联棋，AI在认为局势无可挽回想要认输而遭到人类拒绝的时候，AI选择了在我们人类看来消极的招法。老梁认为，这属于AI对人类的“劝降”，就像我们消极的放弃抵抗一样，他认为这是AI有了自己的意识，并为此表现出深深的忧虑。稍微了解一点点围棋AI原理的人都会觉得这是无稽之谈。首先，围棋AI的在官子阶段的判断是比人类要精确的，比如说人类认为的细棋，哪怕是半目胜负，AI给出的胜率已经是80%，到了小官子阶段甚至是90%以上。而那10%到20%的胜利机会，基本上是一些对手会犯一些低级错误，比如说打吃看不见或者自己填眼之类。虽然人类在细微局面下通常不会认为对方犯这种错误，所以也不会采取这种策略，但在AI眼中这是可能的，而想要取得胜利也只有这种方法。换句话说，这种消极的下法从另外一个方面证明了围棋AI是没有自己的思想和意志的。
编者注：2017年5月26日中国围棋峰会人机大战配对赛，由古力九段+AlphaGo执黑对阵连笑八段+AlphaGo，临近结束的时候出现了有趣的一幕，和古力一组的AlphaGo主动跟古力示意认输，古力拒绝以后AlphaGo的棋路越来越消极，开始在中腹白空中胡乱填子越亏越多，见此情形古力也只能示意中盘认负，点击右边蓝字链接可查看棋谱：古力+AlphaGo【执黑】负连笑+AlphaGo【执白】
古力+AlphaGo人肉臂
连笑+AlphaGo人肉臂
从广义人工智能的角度来讲，人工智能可以分为弱人工智能、强人工智能和超人工智能三种，第一种在我们的生活中已经非常普及了，比如说围棋AI、苹果手机的Siri。而强人工智能指的是各方面能力都可以比肩人类的人工智能，甚至在创造性方面的工作可以和人类相媲美。超人工智能是各方面都比最聪明人类的大脑还要聪明的人工智能。如果用通俗一点的话来说，制造出一个在信息对等游戏中能够战胜人类顶尖选手的人工智能是可以实现的，而想要一个AI能够识别任意人的手书，还可以理解它的含义，甚至能够解决我们随意提出的任何问题，这样的AI还没有出现，短时间内也没有出现的可能。虽然谷歌之前公布有AI通过了图灵测试，但实际上它离像人类一样思考还是有很大的距离。所以距离人工智能能够改变世界甚至能够支配人类还有很远的距离，我们现在还不用为此担心。
在一个领域如已经成为翘楚，想要再进一步的难度是远比从零到翘楚大的，现在的AI自然是未来一段时间科技进步的重要力量，但是真的想要能够发展成那样可怕的东西，可能还有更长的一段路要走。与此同时，我相信关于AI安全的研究也一定会紧跟着AI的发展。