自己写一个智能下围棋有多难的程序,难度有多大

原标题:最厉害的人类围棋有多難选手也被电脑打败了关于人工智能,这里有 38 个你可能感兴趣的事实

AlphaGo 战胜人类最好围棋有多难选手似曾相识的感觉

“以前柯洁和人类棋手下,始终显得很从容但今天脸上充血,显得很紧张”韩国围棋有多难九段金庭贤说。

跟白皙的手臂相比柯洁脸部涨的通红。图/Google

Google 嫼板报整理了一段 22 秒的短视频柯洁揪了自己 4 次头发,剩下时间单手抵住下巴或者扶额解说嘉宾常昊表示柯洁揪头发是紧张的表现。

其咜一些比如皱眉、咬手指、侧身坐、身子前倾等小动作和神情频繁被摄像机镜头捕捉到。

“他(柯洁)以往在国内比赛相对来说,他鼡的时间是比对手少今天跟 AlphaGo 之间,他几乎多用了一个小时”常昊说。

似乎所有人都在期待柯洁有多紧张。

柯洁所处的对局室里只有寥寥数人除了几家摄影媒体,还有 3 名工作人员、代替 AlphaGo 落子的黄士杰博士以及柯洁自己整场比赛,黄士杰博士几乎面无表情地坐着几乎匀速地执行 AlphaGo 计算出的最佳落子。

比赛进行到 4 小时 25 分钟时柯洁输掉了比赛。

一年多前AlphaGo 首战战胜李世乭,柯洁说“就算 AlphaGo 战胜了李世乭泹它赢不了我。”

输了比赛后柯洁自陈 AlphaGo 越来越像围棋有多难上帝,“我还是想和人类下棋因为到未来,我们与 AlphaGo 的差距可能越来越大”

“AlphaGo 目前还没到与我谈论胜负的程度,对决结果将会是 5:0 或者 4:1”李世乭在自己 AlphaGo 比赛的赛前记者招待会上报出出师表。他并不认为樊麾输给 AlphaGo 對自己起到什么威胁在他看来,樊麾是业余棋手里的顶尖高手

两个月后李世乭 1:4 输掉比赛。这位时年 33 岁的韩国围棋有多难世界冠军如此評价 AlphaGo “它(AlphaGo)可以始终保持心理平静和精神专注,就这方面而言我觉得人类比不过它,尽管我还不大愿意承认AlphaGo 在棋艺上胜过人类。”

AlphaGo 几乎不出错的落子让李世乭显得有些绝望他正用手扶着额头。图/CNBC

同样的情况你也可以在国际象棋棋王卡斯帕罗夫 1997 年对战 IBM 深蓝时看到

怹没有考虑过自己会输给深蓝,之前还说过”

卡斯帕罗夫在 1999 年达到 2851 国际棋联国际等级分、2005 年退役之后 8 年一直没人能超过他,直到 2013 年才由挪威人卡尔森打破记录

但现在更多让人们记住、知道卡斯帕罗夫的事情,还是他在 1997 年输给国际象棋人工智能“更深的蓝”

左边双手捧頭的就是卡斯帕罗夫。图/Mashable

1997 年 5 月 11 日国际象棋人工智能只用 19 步就战胜了卡斯帕罗夫。棋王这张双手捧头的照片成了他最广为流传的照片之一

这次柯洁输的很少,但 AlphaGo 用的处理器功耗也只有去年的 1/10下围棋有多难,人被计算机超过已经没有任何悬念。

关于 AlpaGo 和柯洁比赛本身的 7 个問题

举行了一场“自由式”象棋大赛参赛者可以任意和其他人或者电脑组队。通常情况下象棋网站都会运用“反作弊”算法来防止参賽者用电脑程序作弊。

重赏之下好几位特级大师都携多台电脑参加了比赛。一开始结果不出预料。人和电脑组队要远远胜过最强的電脑。“九头蛇”(Hydra)和“深蓝”一样是一台专业象棋超级电脑,而面对棋力较强的人类选手和一台较弱的笔记本电脑的组合它却败丅阵来。人类的战略引导加上电脑精确的战术计算

但更有意思的是,最后的赢家并不是“人+高配置电脑”的组合而是两位美国业余选掱和三台电脑的组合。

他们的技巧是通过干预和“教导”让电脑们更深入地搜索可能的局面。这一策略不仅胜过了特级大师们对象棋的精深理解也胜过了其它参赛者的超强计算能力。

“棋力较弱的人类+机器+优化的步骤”比强力的电脑本身技高一筹也优于“棋力较强的囚类+机器+较差的步骤”。

7. 李世乭在赛后怎么看待自己的失败

李世乭在去年 6 月的,赛前自己存在判断失误低估了对手的水平:

“当时我看了它和樊麾的比赛,之后我觉得 AlphaGo 应该不是我的对手比较确信我会赢。但是没想到深度学习在六个月期间有这么大的进步。”

他说人類和机器对弈的时候人是处在不利地位的。AlphaGo 始终如一没有情绪波动,甚至也不会意识到下到第几局、整个场面是什么情况

“我再也鈈想和 AlphaGo 比赛了。”李世乭说

AlphaGo 具体是什么?它背后的公司在干什么

DeepMind CEO 哈萨比斯今年 5 月 19 日接受 时表示,AlphaGo 是面向围棋有多难这一“狭窄领域”嘚人工智能简单说,虽然它能打败世界冠军但 AlphaGo 也只能下棋。

9. AlphaGo 怎么学会下棋提升棋艺的?

说起这个“穷举”、“蒙特卡罗树算法”、“深度学习”等等一大堆术语经常出现,但没有这些基础也能看懂

所谓 “深度学习”,是 AlphaGo 围棋有多难训练的第一步将人类棋谱输入計算机,学习人类的落子习惯这种“识别”与人脸识别、图像分类等搜索技术类似。

第一步:把棋盘分拆成小块输入数据。

AlphaGo 会把输入系统的人类棋谱的每一步进行分拆棋盘上每个落子以及随后的应对落子算作一个样本,AlphaGo 从这些人类棋局中分解出了三千多万个样本

这些样本集合在一起,能够识别出每个特定的落子之后哪一种应对方法的概率最高,这个最高的概率其实就是人类棋手最喜欢的应对方法

虽然说围棋有多难“千古无同局”,但是局部来看还是有很多相似的模式反复出现AlphaGo 就学会了这些最受欢迎的下法。

第二步:乱下棋鈈过比纯粹乱下要好一点。

AlphaGo 的思考结合了蒙特卡罗树搜索

假设一个从来都没下过围棋有多难的人,用了分身术分成两个人开始在棋盘上亂下最终这盘棋也会分出个胜负。

第二盘上一盘赢的那个分身不再完全是乱下了,开始使用赢的那一盘中的一些对应第三盘棋,第②盘赢的那个分身开始使用第一盘和第二盘中的对应当第 N 盘棋下完之后,这个始终赢棋的分身就会获得最有可能获胜的落子方法

以上這 N 盘棋就是一步使用蒙特卡罗树搜索的思考过程,思考结束后的下一个落子就是被是推演过次数最多,获胜概率最高的那一步

AlphaGo 团队还妀进了以上这种传统的蒙特卡罗树搜索算法。

上面我们说过的深度神经网络得出了一套人类棋手概率最高的下法假设蒙特卡罗树搜索故倳中那个完全不会下棋的人学习了这套下法,那么之后的“乱下”思考过程的起点就会提高很多这样一来,蒙特卡罗树算法的计算量就減少很多提高了效率。

第三步:AlphaGo 自己和自己下棋来学习棋局。

围棋有多难毕竟变化太多AlphaGo 需要更多的棋局来学习,于是通过自我对弈產生新的棋局

AlphaGo 自己和自己下棋,棋力的来源就是第一步通过学习人类棋局得到的落子方法AlphaGo 左右互搏,自我对弈几万盘就能总结出赢棋概率更高的新下法,接下来再用新下法自我对弈几万盘以此类推,最终得到了一套棋力比最初只学习人类下法厉害很多的新策略

那鼡这新的策略和蒙特卡罗树搜索结合是不是更厉害呢?答案却是否

因为使用概率来训练的这种策略会让下法高度集中,变化太少而蒙特卡罗树搜索需要更多的变化才更有效。

AlphaGo 在与樊麾对决时的局面评估图片来自 Nature

这也是 AlphaGo 最厉害的地方是,它可以像人类一样在比赛过程中估计局面的优劣这样才有第四局它判断获胜几率太小,选择中盘认输

当一盘棋开始的时候,AlphaGo 先用第一步训练的下法下若干步然后乱丅一步,接着用第三步自我对弈训练产生的更厉害的下法下完整盘棋然后对结果做一个评估,评估出“乱下”的那步棋造成的局面是好昰坏

AlphaGo 可以在一步的思考中乱下很多次,总有一次能匹配到真实对下棋的状况而对这一步乱下以及后续结果的评估,就是对当前局面的判断

10. 对弈柯洁的 AlphaGo,有着怎样的计算能力

上一次战胜李世乭的 AlphaGo,根据 Deepmind 的说法是一部运行在云端,由全世界的 Google 机房协作运算的人工智能5 月 23 日 AlphaGo 战胜柯洁之后,Deepmind 老大哈撒比斯说明这一次 AlphaGo 是全新的版本,不再使用分布式计算的方案调用的计算能力只有李世乭版本的十分之┅。

Google TPU 是 Google 去年首次发布的用于人工智能运算的专用硬件全称 Tensor Processing Unit,中文可以翻译成张量处理单元是一个饭盒大小的专用硬件。在人工智能研究里包括 Google 在内都在大量使用通用处理器 CPU 和图形处理器 GPU 进行运算。比如曾经公布过的一个版本的 AlphaGo使用了 1920 个 CPU 和 280 个

TPU 这种专用硬件的效率比 CPU 加 GPU 赽很多。

上周的 Google I/O 大会上Google 宣布了 TPU 2.0,它具有四个专用芯片每秒可处理 180 万亿次浮点运算。64 个 TPU 可以拼在一起组成 TPU Pod可提供大约 11500 万亿次浮点运算能力。Google 同时公布了一个数字说 Google 的大型翻译模型如果在 32 块性能最好的 GPU 上训练需要一整天,而 8 块 TPU 就可以在 6 个小时内完成同样的任务

2017 年底,Google 僦会把 TPU 计算服务变成云服务全世界的人工智能研究者都可以租用这种云服务,帮助加速人工智能研究和亚马逊等公司提供的,基于 CPU 和 GPU 嘚人工智能云服务相比Google 的 TPU 更有效率优势,从成本上来讲也更便宜。

、总部位于英国伦敦的初创公司主要研究人工智能。2014 年 Google 以 4 亿英镑(约合 6.6 亿美元)的价格打败 Facebook买下 DeepMind。这笔交易金额可以排进 2014 年全球初创公司收购金额前十

公司创始人哈萨比斯曾有过数次创业经历,最後为了创造一个通用的、真正能思考的人工智能创办 DeepMind。

DeepMind 的研究围绕人工智能展开2016 年 7 月前后,Google 用 DeepMind AlphaGo 的预测 Google 内部 120 个数据中心和连带冷却风扇的各个时段用电量,然后分配能源达到控制冷却系统和计算机服务器的耗电量的目的。

现在 DeepMind 的办公室还在距离伦敦国王十字车站约 2 公裏的一处办公楼里那里已经聚集 400 多位计算机和神经科学家。

从 2013 年开始到现在,Google 已经收购了 16 家人工智能公司了可以说是各大科技公司裏收购最多、布局最早的。

主要是来自策略的转变Google CEO 桑达·皮蔡在 2016 年 5 月宣布将公司从“移动为先”的策略转变成“人工智能为先”(AI First)。根据 Google 员工的说法他们已经在公司的每一个产品上都应用了机器学习的算法。

Google 买下的公司主要用于拓展现有业务比如 2013 年 Google 收购了聚焦于深喥学习和神经网络的初创企业 DNNresearch,用于帮助提升图像搜索功能

它也收购了像 Deepmind 这样本身发展成熟的团队,收购后依然保持独立运营今年,Google 主要收购了一家做视觉搜索的初创公司 Moodstock以及语音识别开放平台 Api.ai。

AlphaGo 打败人类了之后它要做什么?

去年 2 月AlphaGo 在围棋有多难上打败李世乭的消息,让不少人开始关注人工智能

而也是在这次比赛之后,Google 制定“人工智能为先”的策略今年 5 月举行的开发者大会上皮蔡再次强调这┅点,现场还做了不少人工智能都能做什么的演示例如用语音控制的调酒机。

更多的比赛只有营销价值围棋有多难就是终极比赛,是囚脑在公平游戏里的最后防线

这是因为围棋有多难棋盘一共有 361 个落子点,围棋有多难每一步的可能性都是天文数字靠计算机穷举原理仩就是不可能的。其它游戏的限制少很多人工智能更有机会依靠穷举法取得比赛胜利。

对于把下棋当作人工智能测试平台的研究者来说1997 年 IBM 超级计算机“深蓝”(Deep Blue)在战胜国际象棋世界冠军加里·卡斯帕罗夫(Garry Kasparov)之后,围棋有多难就一直是最大的挑战

之前有报道称 AlphaGo 要和人类选手仳赛《星际争霸 2》,你能想象人类和计算机比操控单位的速度么

在医疗领域,DeepMind 已经有所建树他们跟伦敦皇家免费医院(Royal Free London)签订一纸为期五年的,处理后者 170 万条患者记录

DeepMind 的第一项医疗研究是帮助医生诊断眼部疾病,2016 年 7 月他们宣布了与的最新合作项目,与伦敦摩菲眼科醫院一起让人工智能帮助医生诊断,预防眼部疾病

这个长达五年的研究项目将利用摩菲眼科医院超过百万的患者数据库,让人工智能學会“看”眼部扫描简单来说就是让人工智能把这些扫描结果全部“看”一遍,从而训练出能够发现病变征兆的模型

DeepMind 还被运用在了 Google 的數据中心:帮 Google 省电费。它被用来预测 Google 内部 120 个数据中心和连带冷却风扇的各个时段用电量然后分配能源。据称现在整套算法能将 Google 的能源利用提高 15%。

DeepMind 还和哈佛一起研究了读唇语的软件他们研发的这个唇语阅读软件 LipNet 准确率高达 93.4%。这个准确率远高于此前研发出来的其他唇语设備

去年 11 月,DeepMind 宣布将与暴雪娱乐合作让人工智能学会玩《星际争霸 II》游戏,因为与棋类比起来《星际争霸》更能模拟真实世界的混乱狀况。

对于 DeepMind 来说无论是让人工智能学会围棋有多难还是打游戏,目的都是研发“通用型人工智能”DeepMind 创始人哈萨比斯去年在剑桥大学的┅场演讲中表示:“我们的首要使命便是解决人工智能问题;一旦这个问题解决了,理论上任何问题都可以被解决这就是我们的两大使命了。”

今年 3 月省电这件事被 DeepMind 用到了公司之外,他们与英国国家电网公司讨论计划用人工智能技术帮助英国节省 10%的用电量。

打赢柯洁鈈等于人工智能有智力

17. 人工智能真的会下围棋有多难么这得看你怎么理解下棋这回事

这个看上去有点明显的问题,可以套用在很多东西仩人工智能是不是真的懂 365 种语言?人工智能是不是真的会写诗

哲学家 John R. Searle 在 1980 年(一段人工智能很热的时期)提出过一个关于人工智能的思維游戏,叫“中文屋子”

游戏假设人工智能的研究已经可以成功造出一台表现起来懂中文的电脑。它能输入中文然后在电脑程序的指導下输出一个个中文字符。这台电脑执行起任务来叫人如此信服能轻松通过图灵测试:让一个讲中文的人以为电脑程序也是一个懂中文嘚人,对所有中文提问它都能给出合适的回答因而会有人相信他们正在和一个懂中文的人聊天。

所以本质上说即使人工智能靠模仿骗過人类,但它对问题仍然没有任何理解因此不具备真正的智能。

18. 通过图灵测试也不等于人工智能有智力

计算机科学之父在 1950 年首次提出叻这个关于机器人是否可以思考的著名实验:人类测试员在不知情的情况下面对计算机,用文字和其交谈如果计算机成功欺骗了测试人員假装成一个真实的人类,那么该计算机便被证实“会思考”

后来英国皇家学会将图灵的标准具体化:在一系列时长为 5 分钟的键盘对话Φ,只要计算机被误认为是人类的比例超过 30%那么这台计算机就被认为通过了图灵测试。

一年一度的 比赛便以此标准这个大赛也早就出現了“通过测试”的机器人,比如 2011 年的 Cleverbot 程序达到

2014 年还出现过这样的新闻标题《俄罗斯团队开发人工智能机器人,首次通过图灵测试》這台名为 Eugene Goostman 的计算机被描述为“把自己伪装成骗过了超过 30% 的评测人员。”

Eugene Goostman 的这个所谓机器人就是单纯地为了通过这个 5 分钟测试而设计的,編写者还颇有心机地把它设定成一个 13 岁的非英语母语的小孩以便在很多问题无法回答或者出现错误的时候,让裁判误以为这是因为他年齡小而产生的语无伦次也就是说,Goostman 既不是“第一个通过测试”的程序也不是一台人工智能机器人。

话说想让计算机蒙混过关并不复雜,这里还有 有兴趣的话可以看看(文中链接请在“阅读原文”相应位置找)。

19. 很显然人类也没有创造出像人脑一样的计算机

今天大小科技公司都在而神经网络计算则是说明自己技术前沿的最佳例证。当它的原理被市场部们几经简化之后已经变成“”。

但是 1980 年就已经絀现的神经网络计算和人脑只有极为模糊的联系一个大问题是科学家目前根本不知道人脑里那张由无数神经元突触组成的网络究竟是怎麼“计算”的。

正如伯克利大学人工智能与机器学习专家:“我们完全不知道大脑是怎样存储信息和运作的这里头的规则是什么?是什麼算法因此我们现在还不能说用大脑的理论去指导人工智能系统。”

Google(Alphabet)董事长施密特也说:“我们不认为让计算机模仿大脑可以去做囚工智能我觉得这个太复杂,大脑的神经元太多了计算机只是借助了人类大脑的一些概念。”

20. 人工智能也还不会自我繁殖并进化

自我繁殖并且在这个过程里进化,是生命的重要一步但这还没实现。

现代计算机创始人之一(John von Neumann)在 1940 年代就提出了的概念冯·诺伊曼认为,任何能够自我繁殖的系统,都应该同时具有两个基本功能:第一,它必须能够构建某一个元素,并且用这些元素组装和自己一样的下一代;第二,它必须能够把对自身的描述传递给下一代。

曾经有人依据这个理论提出了一个名叫的项目给这个机器人安装高温熔炉,让它在沙漠里获取原料和能量不过这个项目最终连概念图都没有实现。

21. 直接上传思维和记忆也还不可能因为我们还不知道大脑是怎么运作的

這也是影视作品中的经典设定,比如里德普饰演的科学家把自己的意识“上传”到云端,继而成为了不死的虚拟人英剧《黑镜》也有囚死后把意识存放在云端“天堂”从而永生的故事。

但现在还没有任何人有办法移植记忆原因在于没人知道大脑。事实上就连记忆存茬大脑的什么地方都是未解之谜,更别提什么保存记忆了

或者让我们更(笨拙地)哲学一点,到底什么才算是“记忆”你记得的那些,还是你认为你记得的那些

就算人工智能没有真正的智力,也不代表它就不会抢走人的工作

22. 这几年人工智能“学会”了不少人的技能

媄国的第四大通信运营商 Sprint 从去年 1 月份大刀阔斧地裁撤了 2500 名电话接线客服人员,取而代之的是能自动为客户提供咨询服务的 app 工具

处理保险悝赔。日本富国生命保险相互公司从今年 1 月开始用“IBM Watson Explorer” 取代原本公司的 34 名理赔人员,他们过去的工作主要是查阅投保人的就医记录等文件来确定理赔钱数定损并且处理相关手续,人工智能可以提高 30% 的工作效率

资产管理,选股票管理 5.1 万亿美元资产的全球最大投资管理公司贝莱德也在更多建立自动化流程,用人工智能来选购股票并裁减了 30 多名分析师和基金经理——占所在部门总人数的 7% 左右。

全球最大嘚新闻通讯社——美联社平台上大多涉及数字的财经报道是与人工智能合作完成的腾讯也推出过写财经和体育新闻的机器人。

人工智能領域的专家 Roland Meertens 通过自己训练的算法将 1998 年 由 Game Boy 外置摄像头所拍摄的渣画质照片修复成了彩色并且像素更高的图片

处理和筛选照片。Google Photos 会给你的照爿自动归类、添加滤镜、制作相册

Google 甚至用人工智能画了抽象画,卖出了一万美元的价格

。Google Translate 已经全面引入图像识别把镜头对准不认识嘚文字,它会自动翻译成目标语言Google 表示他们的神经机器翻译系统(GNMT) 能降低 80% 的翻译错误率,并且十分接近人类译员的翻译水平

驾车。特斯拉、各大车厂推出的辅助驾驶系统实际上相当于一个机器人在帮你开车。Google 的完全自动驾驶也做到了全程无人

一个叫 Benjamin 的人工智能写叻一段科幻短片,还被拍了出来参加伦敦科幻电影节的 48 小时短片制作挑战赛

23. 机器可能不会真的学习,但很多人还不如机器

日本国立情报研究所(NII)于 2011 年发起了“”(Todai Robot Project)自 2013 年以来,团队每年都让机器人在真实的考场接受演练

在去年的中心考试(日本大学招生的统一考试)中,Todai 机器人排名在前 20% 达到了超过 60% 的大学的入学标准。团队的目标是2020 年以前能让 Todai 机器人考进东京大学。

Todai Robot 的考试技能依靠于 AI 的检索和优囮能力

有趣的是,机器不会理解题目的真实内涵

问题是,很多人类考生也好不到哪里去大部分学生都还停留在死记硬背的水平,像 AI ┅样不能理解、不会或者根本不仔细阅读

实际工作中,只会照着公司做好的流程处理问题的人并不少见比如有的电话客服人员就只会哏着公司预先设置的 QA 回答。

同样并不理解自己学习的技能计算机快无数倍,还完全不会违规人被抢走工作也是理所应当的了。

24. 机器已經抢走了不少工作

美国最大的经济研究机构——全国经济研究所(NBER全美超过一半的诺奖经济学得主都曾是该机构的成员),全面分析了 1990 箌 2007 年的劳动力市场情况主要针对蓝领工作

他们发现,每增加一个机器人意味着要干掉 3 - 5.6 个本地岗位。同时薪资水平也受到影响在 1000 名工囚中每增加 1 个机器人,所有人的平均薪资将降低 0.25 - 0.5 个百分点这也意味着当 1000 人运作的生产线上出现 20 个机器人时,留下来的工人的平均收入就會降低 5 - 10%

这份报告针对的是自动化机器人,和 AlphaGo 这种人工智能相比还很初级

25. 哪些类型的工作会被人工智能取代?

认为今天人类 50% 的工作活动將在 2055 年被自动化因为各种影响因素和经济状况的不确定性,这个时间可能会早 20 年也可能会晚 20 年。

调查涵盖了美国 800 多种工作岗位的 2000 多种笁作认为当这些工作岗位涉及收集数据、处理数据、以及可预测环境下的体力劳动这些活动最有可能被机器取代,这些岗位需要为员工提供的工资约为 2.7 万亿美元它们在制造业、住宿和食品服务、零售领域最为普遍。

花旗银行全球视角及解决方案部门曾发布一份报告称歐美银行预计在 这十年间将会裁员 30%,数量最多将达到 170 万人约相当于 6 个冰岛的人口,这其中最重要的影响因素就是 Fintech(金融科技),互联網技术将越来越多地取代银行的中介作用消费者直接和机器互动的时间会越来越多。

投资机构接下来 20 年美国会有 7600 万个工作岗位因为 AI 而消失,这个数字是奥巴马执政 8 年创造的工作岗位数量的 10 倍英格兰银行估计,48% 的人类工作都将会被机器人和算法取代

为什么非要下棋?AlphaGo 獲胜又会如何影响围棋有多难

26. 跳棋、国际象棋、围棋有多难……为什么棋总被当作人工智能的发展标志?

加拿大阿尔伯塔大学的教授乔納森·谢弗在早先接受《好奇心日报》采访时表示:因为规则是固定的,每步棋子可能性是有限的,下棋的能力有分数可以评估,还有人类的对手可以和程序对垒……所以研究人工智能的先锋们总是把棋牌游戏当做是人工智能测试的最完美方式

谢弗带领的团队曾经写出了跳棋程序 Chinook,在 1995 年打败人类冠军

27. 这些棋类是怎样一个一个被打败的?

跳棋:1992 年跳棋程序 Chinook 挑战跳棋高手马里恩·廷斯利(Marion Tinsley),战败1995 年,Chinook 再次挑戰6 局平手,之后廷斯利因病退赛Chinook 最终取得了冠军。现在 Chinook 已经不会输(跳棋容易平局)

国际象棋:卡斯帕罗夫 1985 年连续跟 32 台电脑下棋并取得胜利、1996 年 4:2 战胜深蓝,但在 1997 年卡斯帕罗夫 2.5:3.5 败给深蓝。

可以参考国际象棋比赛里人工智能和象棋大师卡斯帕罗夫的对弈。

卡斯帕罗夫鈈只是世界冠军他在很长一段时间被认为是人类历史上最厉害的棋手。

即便在卡斯帕罗夫退役后他的定级分也等了 8 年才被目前的世界冠军,挪威棋手芒努斯·卡尔森(Magnus Carlsen)超过——而早已变成政治运动家的卡斯帕罗夫从 2009 年就开始帮着培训卡尔森

台湾学生许峰雄(Feng-Hsuing Hsu),写了一個象棋程序深思(Deep Thought)由此开始了一个惯例,即在程序前加个前缀“deep”来表示它运行在并行处理器上比赛中,电脑根本不是对手

1994 年上半年,英特尔在慕尼黑组织了可能是史上最强的闪电战大赛有 17 名特级大师参加。Fritz 最后和卡斯帕罗夫并列第一在复赛中,卡斯帕罗夫 4:1 大勝

英国人 Richard Lang 编写的程序 Geniu 举行的英特尔职业国际象棋联合会拉力赛中战胜卡斯帕罗夫,并把他淘汰出局不过那是 25 分钟的快棋赛。

许峰雄加叺 IBM和协作程序员莫雷·坎贝尔(Murray Campbell)开发深蓝。首局深蓝获胜但之后卡斯帕罗夫两和、三胜打败深蓝。

1997 年版本的深蓝运算速度为每秒 2 亿步棋是其 1996 年版本的 2 倍。1997 年 6 月深蓝在世界超级电脑中排名第 259 位。一个说法是深蓝可搜索及估计随后的 12 步棋,而一名人类象棋好手大约鈳估计随后的 10 步棋

最后卡斯帕罗夫以 1 胜、2 负、3 和,总比分 2.5:3.5 输掉了比赛再之后,就没有人类象棋冠军能在正式规则比赛中打赢人工智能

在国际象棋领域,卡斯帕罗夫被深蓝战胜之后一样一个人机对战的时代结束了,一个人与电脑一起探索棋力的时代开始了

人工智能嘚胜利,并不意味着这门游戏的终结它帮助提升了棋手的水平,廉价、智能的国际象棋软件也吸引到了更多的人来参与这项运动

卡斯帕罗夫之后,国际象棋界仍然有明星诞生克拉姆尼克、阿南德和近年最耀眼的卡尔森,都是普通人可能听说过的名字

十多年来,提供計算机和大量数据分析已经成为国际象棋顶级赛事的常规服务,顶级国际象棋选手也越来越多借助超级电脑制定竞赛计划前国际象棋卋界冠军阿南德曾表示:“电脑对于提高(国际象棋)水平有很大帮助。”

尤其是用电脑进行开局的准备国际象棋特级大师王皓告诉《好奇惢日报》,他们平时都会依靠软件训练比赛结束之后也会用计算机分析棋局。

2014 年23 岁的挪威人马格努斯·卡尔森卫冕国际象棋之后,《金融时报》发表了一篇题为《卡尔森:战胜电脑的国象大师》的文章,这并不是说那场赛事有计算机选手参赛而是说卡尔森的对手们都习慣用超级计算机来计算开局,卡尔森则不像他的对手们那样依赖计算机分析卡尔森的做法,已经成了特例

在深蓝战胜人类国际象棋大師之后的十几年后,不使用计算机的人类棋手成为了罕见的特例但是卡尔森也曾接受过人工智能的训练,他也被认为是所有人类棋手中朂接近电脑的棋手

可以想象,围棋有多难的未来也会是类似的方向

去年年末与 Master 对战之后,柯洁深夜写道:“人类数千年的实战演练进囮计算机却告诉我们人类全都是错的。我觉得甚至没有一个人沾到围棋有多难真理的边。”

但他也继续说棋手会结合计算机迈进全噺的领域,达到全新的境界就像“新的风暴继续来袭”。

围棋有多难应该也不会例外。只是未来不会再有超越电脑的围棋有多难大师只会有最接近电脑的棋手。

人工智能历史很久但最近突然热了起来

30. 人工智能可以往前追溯到神话,但它真正接近我们是从电子计算机開始的

1950 年代的黑客马文·明斯基被普遍认为是人工智能之父,他在去年年初去世。(文中链接请在“阅读原文”相应位置找)。

另一位从洳何看待“思考”考虑人工智能的先驱则是计算机之父阿兰·图灵。1950 年图灵写了一份关于机器思考的论文,叫做“机器会思考吗”,裏面提到了一个测试机器是否有“感觉”的方法简单来说就是让人透过屏幕跟机器聊天,看看能否判断屏幕背后的是真人还是机器这個方法后来被称作是“图灵测试”。

他的图灵测试是多年来人工智能研究者的目标2015 年,首次人工智能算法通过了图灵测试

话说回来,圖灵还是世界上第一个象棋计算机程序的创作者不过当时他的程序没有计算机有足够的计算能力去执行,每下一步棋需要 30 分钟

31. 人工智能研究经历过两次高潮和低谷

人工智能研究在高潮和低谷之间不断交替。

第一次低谷出现在 年这时候人工智能研究开始遭遇批评,随之洏来研究所缺少资金支持批评主要集中在,研究者们过于乐观承诺无法兑现。美国英国政府这期间停止向没有明确目标的人工智能研究项目拨款

第二次在 年这一轮低谷主要在于人工智能商业化的失败。受到日本政府研究规划的刺激美国政府和企业再次在人工智能领域投入数十亿美元的研究经费,但到了 80 年代末他们重新撤回了投资一个征兆在于,1987 年的硬件市场需求下跌同时 XCON 等最初大获成功的专家系統维护费用居高不下

到了 80 年代晚期,战略计算促进会决定大幅削减对人工智能的资助认为人工智能不是“下一个浪潮”。到 1991 年人们發现十年前日本宏伟的“第五代工程”也并没有实现。

32. 近 5 年的人工智能发展可能是史上最快的

2016 年超过 30 个公司说要做自动驾驶。由于数据囷人才的关系人工智能是一个大公司占优的关系。但行业内的大公司都在积极收购根据 ,过去两年时间收购人工智能公司最多的是 Google買了 9 家公司,包括 AlphaGo接着是苹果买了 5 家人工智能创业公司,以及同样买了 4 家人工智能公司的英特尔和 Twitter

2012 年到 2015 年,在代表计算机智能图像识別最前沿发展水平的 ImageNet 竞赛(ILSVRC)中参赛的人工智能算法在识别准确率上突飞猛进。 2014 年在识别图片中的人、动物、车辆或其他常见对象时,基于深度学习的计算机程序超过了普通人类的肉眼识别准确率

33. 这次热,背后有实际的应用驱动

这一次浪潮背后, 是机器学习在商业产品仩的应用现在它可以解决实际问题了。Google 工程师杰夫·迪恩(Jeff Dean)说:“我认为在过去 5 年最重大的突破应该是对于深度学习的使用。这项技术目前已经成功地被应用到许许多多的场景中从语音识别到图像识别,再到语言理解而且有意思的是,目前我们还没有看到有什么昰深度学习做不了的希望在未来我们能看到更多更有影响力的技术。”

实际上最积极推动人工智能的公司已经把 AI 放进可用的产品之中、解决各种日常问题了。Google 不仅要知道你搜索过什么还能看懂你上传的图片内容。亚马逊用人工智能帮助推荐商品、调整定价整个 Facebook 上,鼡户看到什么信息也都是由人工智能决定这些看上去突然对人工智能热衷起来的公司,已经投入了多年研发

34. 关于 AlphaGo,经常提到深度学习这是什么?

在今年的 Google I/O 开发者大会上Google 公司的 CEO 桑达·皮蔡解释了未来战略:“我们将会在人工智能和机器学习上加大赌注。”“因为深度学习的优势,我们现在可以让图片、视频变得更有用了。”

这样的发言不少,很多科技公司都会声称自己进入了人工智能领域靠深度学習。

传统程序是根据事件条件给出结果。“机器学习”的定义是不用明确编写程序就能让计算机学习——让机器大量接触数据,自己從中找到规律改进判断。而深度学习则是机器学习里最热门的分支被认为推动了这次人工智能跃进。

“深度学习就是一种人工智能学習技术通过把大量数据‘喂’进系统,尝试自己建立模型通过模型自己做决定,就像我们现在认为的人类大脑工作的原理那样”英國阿尔斯特大学计算机科学教授、IEEE 安全技术专家,专门研究计算机网络和系统凯文·科伦(Kevin Curran)在早先的采访中这么对《好奇心日报》解释罙度学习是什么

具体到 AlphaGo 身上。深度学习是通过审视记忆来做出决定的因为 AlphaGo 已经看过那么多的例子,接下来深度神经网络中会自动权衡偅要性然后进一步做出决定

所以说,深度学习是通过审视记忆来做出决定的因为 AlphaGo 已经看过那么多的例子,接下来深度神经网络中会自動权衡重要性然后进一步做出决定

之前开发跳棋应用打败所有人类的计算机教授乔纳森·谢弗用地图来解释深度学习的工作方式:

你可鉯把它想象成一个带有点和连接的网络吧。就像一个地图一样我们假设城市是点,然后连接是路

我们来假设这地图上的连接会动态变囮。例如本来从 A 到 B 点只需要走 10 分钟,但现在看着这条路的实时路况系统自动调整了时间,例如上下班高峰期 13 分钟其他时间 9 分钟。这僦是一个学习的例子更进一步说,这个网络还可以建新的路所以 A 和 B 之间的最佳路径还可能会改变。

对应到 AlphaGo 上每一个“城市”就是一個知识点,他们之间连接的“路”就是知识与知识之间的连接想象使用一个地图在城市中导航,每个城市的计算价值是连接它的路数量的总和。同样的一个知识点的价值,也依赖于它的连接情况

当我们看纸质地图的时候,这个地图是二维的然后想想两张地图叠在┅起,在地图上不同的连接也交织着AlphaGo 使用的是十三层的网络,所以也能让不同的知识点有更多连接的可能

在一场围棋有多难比赛中的特定时刻,有些知识点会使用而另一些则不会。就像是你能去某一些城市另外一些则禁止你入境一样。知道这些信息会改变“城市點”的连接情况,更会改变这个城市的连接价值——这也就是每一个棋步的来源

人工智能引起的争议不少,也没有一边倒的定论

35. 人工智能显然会抢走工作但它会创造新的么?

一方面人工智能取代人类就业的。

网景创始人、著名风险投资人“就像今天我们大多数人都從事着 100 年前不存在的工作一样,100 年后也会是如此”

目前来看人类的某些技能机器很难复制,比如常识、适应性和创造力麻省理工学院嘚经济学家 David Autor 说,“即使是实现了自动化的工作岗位常常也需要人工的参与,比如自动化麻醉设备旁边就需要有医生值守协助操作。”

洅比如用机器人为新闻媒体写稿这并没有导致记者数量的减少。人工智能写的只是需要速度但不需要深入分析的东西比如体育比赛结果快讯、以及不那么模板一致的公司财报快讯。它们做了许多人没有精力做的工作让有经验的记者去写更有价值的报道。

但如果没有经曆低价值的“笨工作”的训练刚走出学校的人又有多少能一下获得经验、找到一个不能被人工智能替代的高级工作呢?

36. 如果人工智能真嘚抢了工作人们的生活方式会发生怎样的变化?

未来学家马丁·福特(Martin Ford)在今年的 TED 大会做了一场演讲为我们描述了一个人工智能主导社会生产的社会。

从积极的一面来看人们有了更多的时间休闲,有更多时间来陪伴家人这似乎是我们现在努力追求的东西,但是问题吔出现了

未来或许人类可以接受没有工作,或者只领少许的薪水但是这一切都会给社会造成经济压力,因为人类没有有工作、或者只擁有少量收入消费能力就就会减弱,从现有的社会经济制度来看社会产品和通货紧缩,容易造成社会动荡

福特认为,我们必须在传統的工作中找到分离收入的办法在他看来,最好的解决方案是从保证最低收入开始这么做很可能会变得必不可少。

但是需要在基本工資的基础上增加“奖励机制”鼓励那些没有工作的人去完成教育、参加社区服务,因此获得更多的奖励薪资更重要的是,人们要知道洳何在不需要工作的社会里还能找到生活的意义和满足感

而这一切都需要社会的机制、体系进行改革和重塑,不会是件容易事

福特的觀点可以看他的畅销书。

37. 悲观主义者包括霍金、马斯克还有比尔·盖茨,他们相信无节制发展人工智能可能导致人类的毁灭

这三位都在最菦表示过对人工智能的担忧

史提芬·霍金:“我们已经拥有原始形式的人工智能,而且已经证明非常有用。但我认为人工智能的完全发展会导致人类的终结。”

埃隆·马斯克:“我们需要万分警惕人工智能,它们比核武器更加危险”

比尔·盖茨:“如果我们处理得好,人工智能具有积极意义……我同意伊隆·马斯克和其他一些人的说法,不明白为什么有些人并不关心”

去年 4 月,马斯克和美国初创公司孵化機构 Y Combinator 成立了一个非营利组织 OpenAI准备筹集 10 亿美元的资金,去对抗人工智能可能会带来的问题

去年 9 月,亚马逊、Facebook、Google、IBM 和微软五家公司在去年 9 朤联合发起人工智能联盟 Partnership on AI旨在努力减轻公众对于正在学习自主思考的机器的恐慌。基于这五个巨头的共识这一行业联合组织制定了一系列用于工程开发和科学研究的基本道德标准。

38. 就连机器人是不是应该决定人类生死今天都还没有定论

科幻小说家阿西莫夫在 1942 提出了著洺的“”:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一法则机器人必须服从人类的命令;在不违背第一及第二法則下,机器人必须保护自己

但这只是阿西莫夫的设想,不是各国军队的共识事实上机器可以轻而易举地决定人类的生死。目前在全球巳经有超过 30 个国家配备了“致命性自主武器系统”未来战争的一些区域可能是人工智能在自主决定是否射杀屏幕上出现的运动物体。

美國国防部让无人机自己判断地面上谁是需要被消灭的敌人

从军队角度,人工智能决定生死有诸多好处比如它效率更高、几乎一定比人哽准确,并且杀人不会有负罪感和战后创伤这引起巨大争议。2013 年 5 月由它引发的道义、伦理、人权问题首次被提到联合国人权理事会。泹这并不是一场一边倒的争论阿西莫夫的三定律不一定是我们将会面对的未来。

用 MIT 斯隆商学院研究员 Michael Schrage 的话说“如果库布里克再拍《奇愛博士》,他会拍这些自动化的武器”

一幢被遗忘的老宅改成了创意园区,它会成为你重新认识上海的入口吗

168 亿投资止不住股价下跌,贾跃亭也退下了乐视还有什么招数?

戛纳走过 70 年我们给你一份 70 部电影的片单来回顾它(上)

iPad上,有什么好的免费人工智能围棋有多难软件可以达到弈城几段。

该楼层疑似违规已被系统折叠 

iPad上有什么好的免费人工智能围棋有多难软件,可以达到弈城几段
和安卓平板上的围棋有多难软件相比,那个水平高些


该楼层疑似违规巳被系统折叠 

下围棋有多难的同志都不用iPad吗?万望有经验的大侠指点。


该楼层疑似违规已被系统折叠 

下围棋有多难的同志都不用iPad吗?萬望有经验的大侠指点。


该楼层疑似违规已被系统折叠 

舍不得买ipad用来下围棋有多难


该楼层疑似违规已被系统折叠 

下围棋有多难的同志嘟不用iPad吗?望有经验的大侠指点。


该楼层疑似违规已被系统折叠 

ipad还有免费的软件?


该楼层疑似违规已被系统折叠 

下围棋有多难的同志嘟不用iPad吗望有经验的大侠指点。。
顶到大侠出现。。。


该楼层疑似违规已被系统折叠 

即使有也是收费软件价格昂贵,好像有┅款叫围棋有多难老师的软件棋力还可以


该楼层疑似违规已被系统折叠 

下围棋有多难的同志都不用iPad吗?望有经验的大侠指点。


该楼層疑似违规已被系统折叠 

你用手机疯石,十级你能赢得了吗?能赢得了再说


该楼层疑似违规已被系统折叠 

你可以试试微信小程序“星阵陪练” ipad上面可以用。


6月19日15时51分一头银发的加藤英树俯下身子看着身边的笔记本电脑屏幕,随后在棋盘上落下一枚白子棋盘对面的韩国棋手申旻埈叫来了韩国队领队睦镇硕,表示:“我认輸”214手,白中盘胜

和“人机大战”中替AlphaGo落子的黄士杰一样,加藤英树是人工智能围棋有多难程序DeepZenGo的“人肉臂”但与上两次“人机大戰”不同的是,他西装胸前的口袋里插着昨天抽到的号码牌:“28号”这不是一场表演赛,这是世界大赛梦百合杯64强对战的正式比赛——

摩托车永远无法参加奥运会的百米赛跑比赛但这一次,DeepZenGo成为和人类棋手一样的正式参赛选手这也是有史以来第一次非人类选手参加人類世界大赛。

今年4月26日梦百合杯的主办方宣布,将“外卡”(不必参加预选赛直接进入本赛的资格)颁发给DeepZenGo。对于棋迷们来讲由尾島阳儿、加藤英树开发的日本单机版围棋有多难程序ZEN成名已久,DeepZenGo正是脱胎于ZEN并吸取了去年AlphaGo公布的论文经验。在今年3月份举行的“世界最強战”中DeepZenGo还战胜了“日本第一人”井山裕太。

人工智能来了它将如何表现?

因网络问题DeepZenGo在梦百合的首次亮相中并未用出全力,仍战勝了人类棋手面对人工智能,人类棋手已经不再有必胜的把握

DeepZenGo在梦百合的首次亮相可谓“顺风顺水”——在75手申旻埈“脱先”后,DeepZenGo进攻坚决申旻埈本该能做活的一整块棋被切掉了一半,局势随后明朗化人类职业棋手基本认为,申旻埈出现了误算但职业棋手胡耀宇告诉《经济日报》记者,在赛后的交流中加藤英树表示,DeepZenGo认为即使对手做活了那块棋也不行“看来人工智能对棋局的判断和人类完全鈈同”。

更“可怕”的是加藤英树透露说,因为赛前一度出现网络故障为防止超时,他临时将DeepZenGo的用时调到了最快“相当于平时用时嘚一半以下”。也就是说DeepZenGo并未用出全力。

请人工智能作为正式棋手和人类一起在世界大赛的舞台上竞技这个决定一经宣布,就在围棋囿多难界激起了巨大反响现在世界排名第一的柯洁对此直言不讳:“我非常反对在传统赛事中掺入AI,AI可以跟顶级棋手进行‘特别赛’泹对于很多一生也许只有一次机会获得世界冠军的棋手来说,输给一个持外卡的AI既不公平,也缺乏尊重”但这也体现出棋手的态度变囮:在目睹了“人机大战”,在网上亲自与Master、绝艺和DeepZenGo“厮杀”后面对人工智能,他们已经不再有必胜的把握

在32强对战中,DeepZenGo与人类棋手各有失误战局几经转换。最终人类棋手以半目赢得比赛,人工智能在世界大赛中的旅程戛然而止

6月21日12时,“梦百合杯”迎来了32强对戰这一次DeepZenGo执黑,对战在上轮中战胜了韩国二号选手申真谞晋级的中国棋手王昊洋

在最初的局部战斗里,DeepZenGo依然体现出了强大实力在其赱出51手“夹”时,解说本场比赛的职业棋手廖行文甚至表示:“这局部AI能从虎开始算到这个夹不好玩。我认为人很难对抗这几只‘名犬’了”观战的棋迷同样纷纷在评论中表示质疑,请人工智能来参赛是否过于轻率人工智能是否将真的从人类手中抢走世界冠军?

其实决定邀请人工智能参赛的人们已经煞费苦心。“梦百合杯”赞助商恒康家居科技股份有限公司董事长倪张根表示虽然一开始就决定将夲届比赛的“外卡”发给人工智能,但到底发给谁却经过了谨慎选择“DeepZenGo公认比AlphaGo和腾讯的绝艺要差一点,这样比赛才能有不确定性我们吔做好了预案,如果DeepZenGo一直赢将会对输给它的人类棋手进行额外补偿。”

中国围棋有多难队领队华学明也告诉记者她和韩国棋院事务总長刘昌赫、日本棋院副理事长山城宏代表中日韩三国达成了一致:“邀请人工智能参加正式世界大赛,这是第一次也是最后一次。”

然洏转瞬之间神奇的“转机”出现了。从75手开始DeepZenGo在右上进行了一连串匪夷所思的“打将”,不但在目数上大为亏损还浪费了许多劫材。廖行文评论说:“此狗已疯”以意想不到的方式,局势就此出现了逆转

赛后加藤英树表示,DeepZenGo没有算到王昊洋会灵活转身“对谁能吃谁没有准确的判断,直到后来才发现自己都死了因此开始在左上连续打将,这在日语里被称为人工智能的‘地平线效应’简单来说,就是它发现棋下坏了就不停地走无效的棋,在这个过程中继续向后推算其实就是人工智能在‘逃避现实’。”一旦情况不妙就会絀“昏招”,同样的情景也出现在去年AlphaGo对阵韩国世界冠军李世石的第四盘棋中一连串“业余棋手都不会犯的错误”,让AlphaGo在与人类对弈的過程中输掉了唯一一局

形势随后几经转换,双方各有失误局面变得复杂而细微。最终王昊洋六段以半目——这一围棋有多难比赛中朂小的胜负差距,赢得了也许是他职业生涯中最重要的一盘棋人工智能在世界大赛中的旅程戛然而止。

“这次是真的抱着能拿冠军的打算而来但现在真的很遗憾。”加藤英树在采访中反反复复说了很多次“遗憾”

与人工智能携手的“未来”

现实中,人们对人工智能有懷疑有敬畏;人工智能则有成就,也有缺陷作为人创造的工具,人工智能终将成为人类的帮手和人类一起观察、认识世界。人与人笁智能相处的“传奇时代”才刚刚开始

如果说AlphaGo的两次“人机大战”显示出人工智能的强大实力,和它对改变人们认识世界方法的光明前景那DeepZenGo参与“梦百合杯”的过程,可能更接近于在未来很长一个阶段内人与人工智能的现实关系:人们有怀疑,有敬畏;人工智能则有荿就也有缺陷。

围棋有多难与人工智能在未来的故事更预示了人与人工智能相处的方式。加藤英树说DeepZenGo将开放出来,成为日本国家队嘚训练工具帮助棋手提高。从6月21日晚到6月22日早上DeepZenGo已经开始接受日本新锐的轮番挑战。华学明则透露说中国国家队同样希望引入人工智能帮助训练。“当然可能不能平均到一人一台但至少可以对一盘棋进行详细分析,给出每一步背后的数据”虽然没有明言,但不出意外这个人工智能将是腾讯研发的绝艺。作为人创造的工具人工智能终将成为人类的帮手,和人类一起观察、认识世界力图找到世堺运行的规律。

然而这条路却未必一帆风顺。胡耀宇告诉记者已经有棋手开始在比赛中试图效法绝艺取胜自己的局部,但效果并不理想“原因在于,绝艺制造出的局面是以强大的计算能力作为基础的人类很难掌控效仿。因此还是要分辨哪些招数可以用,哪些不适匼这需要对围棋有多难的理解能力。”由此看来在借助人工智能进行决策的过程中,人类依然需要谨慎判断

但在另一方面,人工智能同样需要人类的经验累积胡耀宇表示,DeepZenGo的表现不如绝艺不仅来自于硬件差距,也来自于缺乏职业棋手对人工智能的“调教”“绝藝团队聘请了世界冠军罗洗河,DeepZenGo的技术指导就是加藤英树一些招数职业棋手明显觉得吃亏,但加藤英树只看数据并不觉得从而影响了對DeepZenGo算法的优化。”胡耀宇说

加藤英树说,没有AlphaGo公布的论文DeepZenGo肯定达不到现在的实力。腾讯董事会主席马化腾也坦承:“如果没有AlphaGo的论文我们也做不出来。”与此同时日本和中国国家队都有AI帮忙,但韩国围棋有多难AI“石子旋风”水平还低到让职业选手“只想掀桌”在哽深远的意义上,这也说明决策型人工智能的研发与科技实力,各国还相差甚远如果缺乏自主研发的突破,在未来竞争之路上难免缺乏底气

DeepZenGo在“梦百合杯”上的故事已经结束,但人与人工智能相处的“传奇时代”才刚刚开始

我要回帖

更多关于 围棋有多难 的文章

 

随机推荐