围棋AI竟有盲点，深度学习的弱点是何处？

安徽工行

摘自：日本经济新闻

作者：北村光

翻译和整理：找借口安静 感谢余正麒点我名

我们终于找到了围棋AI的盲点，虽然围棋AI具备远超人类棋手的实力，但是在一个特别的棋型中，它却没法识别。据说这也是各领域的AI共同存在的一个弱点。

“啊，这个白棋全死里面了”，对AI颇有研究的大桥拓文七段，通过某种策略战胜了具备最强水平的围棋AI“KataGo”。执黑的大桥拓文在最后吃掉了左上角到中腹的一团白棋，实空大幅领先并获得了胜利。

大桥拓文将其称为“甜甜圈下法”，正是下面这个图的下法。首先让自己的黑棋被AI的白棋包围，让AI的白棋像甜甜圈一样围成一个圆圈。然后黑棋在这个白棋周围行棋，而AI却感觉不到自己的“甜甜圈”已经处于生死的边缘了。

这个下法是美国的一家研究团队，和KataGo下了100多万盘对局之后发现的漏洞。将另一个AI设定为“敌对的AI”，另一个软件则参考计算的这些手段来反复进行对局，此后发现“敌对的AI”胜率超过了97%。此后到了2月，一名美国的业余棋手通过这个方法战胜了AI。

相信很多人都对AI为什么不能正确识别特定局面感到怀疑，但是大桥拓文表示，在很早以前，包括手数很长的对杀在内，AI其实也经常下不出正确的下法。

虽说AI的实力已经远超很多顶尖围棋棋手，不过AI棋手并没有完全理解“围棋是什么”。比如说两眼做活这样的概念，围棋的话只要被围住对手就能吃掉，不过有黑白交替落子和不能在禁入点落子，这两个规则融合在一起的话，就是“只要制造两个不能让对手行棋的空间，这块棋就是活棋”。这也是刚刚学棋的人最先学到的内容。

围棋AI是通过模仿人脑的深度学习技术，通过自我对局来提升实力，但是AI并没有理解“两眼做活”这样的理论性知识，AI只不过是通过自己的经验选择胜率最高的手段然后一步步积累起来。而针对蔓延到全盘的死活，或者是不是有两只眼的情况，对AI来说它就需要在庞大的数据中一个个进行反复验证。

大桥拓文用的KataGo，在发现弱点之后又重新发布了新的版本，而在新的版本中就很难使用“甜甜圈战术”了。但是KataGo的对策是“避免自己的棋子变成一圈”。在特定的情况下，AI还是没法正确识别局部的死活问题，而这个问题在利用深度学习技术的AI中也同样存在。

“甜甜圈战术”是人类棋手之间不可能采用的特殊手段，所以说很难断言人类棋手再一次超越了机器。大桥拓文以及战胜了中国围棋AI的芝野龙之介二段也说：“这么下和正常的围棋不一样”。

和围棋AI面临同样课题的深度学习型AI也有很多，比如说“ChatGPT”的文章生成功能，也会说一些明显是错误的内容。AI虽然可以通过庞大的数据然后写出一篇像样的文章，但是AI并不明白这些词的意思以及逻辑性。现在社会上各个领域都有AI的存在，但是我们还是有必要区分其擅长和不擅长的地方。