（记者郑典编译报道）据《Engadget》2023年2月20日（周一）。
示意图。（图片来源：Veinarde /Wikimedia/CC BY-SA 3.0）
据英国《金融时报》报导，一名实力强大的业余围棋棋手利用第二台计算器发现的弱点，击败了排名靠前的人工智能系统。利用这个漏洞，美国选手Kellin Pelrine在没有进一步计算器帮助的情况下果断地击败了KataGo系统，赢得了15场比赛中的14场。自AlphaGo在2016年里程碑式的胜利为当前的人工智能热潮铺平道路以来，这是人类罕见的围棋胜利。它还表明，即使是最先进的人工智能系统也可能存在明显的盲点。
Pelrine的胜利是由一家名为FAR AI的研究公司促成的，该公司开发了一个程序来探测KataGo的弱点。在玩了超过一百万场比赛之后，它能够找到一个可以被不错的业余玩家利用的弱点。Pelrine说，这“并非完全微不足道，但也不是超级难”。他用同样的方法打败了另一个顶级围棋AI Leela Zero。
它是这样工作的：目标是创建一个大的石头“环”来包围对手的群体，然后通过在棋盘的其他区域移动来分散计算器的注意力。即使当它的团队几乎被包围时，计算器也没有注意到这个策略。“作为一个人，它很容易被发现，”Pelrine说，因为环绕的石头在棋盘上清晰可见。
该缺陷表明人工智能系统无法真正“思考”超出其训练的范围，因此它们经常做出在人类看来极其愚蠢的事情。我们已经看到与聊天机器人类似的事情，例如微软的Bing搜索引擎所使用的聊天机器人。虽然它擅长重复性任务，例如制定旅行路线，但它也会提供不正确的信息，斥责用户浪费时间，甚至表现出“精神错乱”的行为——这可能是因为它所训练的模型。
Lightvector（KataGo的开发者）当然知道这个问题，玩家已经利用这个问题几个月了。在GitHub帖子中，它表示它一直在努力修复使用该漏洞的各种攻击类型。
原文连结
