你在这里

AI 令人恐惧的自我学习能力

Nature今天的新论文里,谷歌旗下人工智能公司Deepmind推出了一款新版的围棋AI,命名为“阿法狗•零”。这个AI当然意料之中地干掉了它的所有前辈,elo等级分抵达了5000的水平,超越了所有人类棋手——但最重要的是,它没看过任何人类棋谱。训练开始的时候,它只会随机走子,看到的全部信息就只有棋盘和黑白棋子;而40天的训练结束后,它掌握的旷世下法,完完全全是自己摸索出来的。

这个事情很吓人,但是是以一种很隐蔽的方式。

当年国际象棋世界冠军卡斯帕罗夫输给深蓝的时候,他一开始的反应是认定深蓝作弊了,觉得在深蓝的棋步里看见了“只有人类才有的火花”。深蓝当然并没有作弊,但是他这么感觉倒也不是完全没道理:深蓝这个AI,完全是人类一手带大的。它是人类把顶尖棋手直接总结出来的大量经验判断,加上海量的历史名局数据库,再加上它自己的高速运算模拟,三者一起才战胜的卡斯帕罗夫。在各种意义上,它都还是一个主动模仿人类下法的AI。

人们沿着这个路线努力试图攻克围棋,但十多年来没有真正成功。直到前年年底,Deepmind使用两个神经网络结合的办法,才第一次真正战胜了人类职业选手。那个路线抛弃了人类经验判断,不再试图去教它“这种局面好,那种局面坏”,而是直接扔给它3000万个人类历史棋局让它自己看,再让它自我对弈提升。其结局你们都知道了,它在2016年3月4:1战胜了李世乭,其升级版阿法狗•Master又在2017年5月3:0战胜了柯洁。

这对人类骄傲感当然是个很大的打击。当时大家就都在讨论:抛弃人类经验是不是AI进步的必由之路呢?人类围棋棋手积攒了这么多年的历史是好事儿还是坏事儿呢?阿法狗毕竟还看了3000万人类棋局,这些棋局对AI围棋水平到底是什么影响呢?

现在有答案了。阿法狗•零根本就不需要这些东西。人类经验是好是坏,对AI而言无关。完全无关。

我个人觉得,这是所有AI末世中最令人恐惧的一个场景。

每个棋手都知道,输棋并不可怕,反而是成长的必经之路。就算你一辈子都打不赢那个宿命的对手,你也在成长,帮助对手成长,让所有人对棋的理解又迈出了微小的一步。国际象棋被AI横扫已经二十年了,世界大赛依然在顺利举行。一个无法动摇的第一或许会让第二无比痛苦吧,但是我们剩下的这些人反正平常也输习惯了,拿不到第一并不会否认掉我们存在的意义。

但如果那个第一根本不需要你,根本不在乎你,你做的任何事情都对它的追求没有影响,你失去了和它的世界的一切关联呢?

这件事情其实已经发生过一次。欧洲人曾经认为自己是世界的中心,万事万物围绕自己的罪恶和救赎而展开;结果发现,人类只是宇宙里的一粒微尘,这世界上几乎所有的东西甚至都不会被我们影响到,更别说在乎我们了。这个思想冲击,至今还没有完全消散。

那么如果这个事情不再停留在思想层面,如果AI拿走了人类和现实的关联,让人类发现自己甚至已经无法影响自己的历史进程了呢?

我不太担心AI会毁灭人类;总的来说它们没有特别充分的理由这么做。我也对今天的围棋界抱有信心,他们一定能寻找到新的意义来源。但是,随着AI证明自己在越来越多的领域不再需要人,一定会有人反过来无法接受自己不再被需要的事实。当一切创造都被接管的时候,如果你还要坚持做什么的话,大概剩下的也只有

毁灭了吧。

人类和AI的战争大概不是AI决定毁灭人类,而是那些不愿变成局外的人类去打响第一枪。悲观看来,这将是人类对历史的最后影响。

 

关键词: 
栏目: 
首页重点发表: 

Theme by Danetsoft and Danang Probo Sayekti inspired by Maksimer