您还认为打扑克获胜取决于运气吗?
2026年1月10日德州扑克攻略之资金管理观念,合理投资与报酬全解析
2026年1月10日最近这段时间,人工智能领域的国际顶级会议AAAI 2022正在有条不紊地举行当中,大会所设立的论文奖也是一批接连一批地对外公布了。AI科技评论这边得到确切消息,来自中国科学院自动化所的兴军亮教授所带领的团队,荣获了AAAI 2022的卓越论文奖(Distinguished Paper)!

AAAI 英文全称为“Association for the Advance of Artificial Intelligence”,也就是美国人工智能协会,此协会算作是人工智能领域主要学术组织当中的一个,具备一定程度的学术权威性。
获奖的兴军亮团队此次工作,是他们所开发的轻量型德州扑克AI程序,即AlphaHoldem。据介绍,该系统决策速度,较DeepStack的速度,提升超1000倍。与高水平德州扑克选手对抗的结果表明,其已达到了人类专业玩家水平。
作者团队:赵恩民,闫仁业,李金秋,李凯,兴军亮
1 德州扑克 AI 的意义
比起围棋任务来说,德州扑克是一项技术,这项技术更能够去考验智能博弈,智能博弈是基于信息不完备造成对手处于不确定情形之下的 。
起源于20世纪初美国德克萨斯州的扑克游戏德州扑克,是国际上极为流行的一种扑克玩法,因该发源地而被如此命名标点符号处。
德州扑克的规则是,使用去掉王牌后的一副扑克牌,这副牌共52张,至少须有2人参与其中,至多人数为22人,一般情况下,参与人数处于两人至十人之间 。
游戏开启之际,最先给每一位玩家发放两张属于个人的牌当作各自的“底牌”,紧接着把五张公共牌依照顺序先是三张、再是一张、最后一张朝上发出来。在发放妥两张私有牌、三张共有牌这般顺序往后第四张公共牌、第五张公共牌之后玩家能够进行多次没有限制的押注,这之中四回押注分别被叫做“翻牌前”“翻牌”“转牌”“河牌”。图1呈现了一场德州扑克游戏的完整流程示意。

图 1:两人无限注德州扑克一次游戏过程示意
经过四轮押注,要是依旧没办法区分出胜负,那么游戏就会进入“摊牌”阶段,所有玩家都要亮出各自的底牌,并且与公共牌组合成五张牌,成牌最大的玩家赢得胜利。图2给出了德州扑克不同组合的牌型解释以及大小。

图 2:德州扑克不同牌型大小说明和比较
德州扑克博弈存在问题,其复杂度程度很高,对于两人无限注德州扑克来讲,决策空间复杂度超越10的161次方;其次,德州扑克的博弈进程是典型的回合制动态博弈进程,游戏参与者的每一步决策都依靠上一步的决策结果,并且对后面的决策步骤发挥影响;另外,德州扑克博弈是典型的不完美信息博弈,在博弈进程中玩家各自的底牌信息不公开,致使每个玩家的信息都不完备,玩家在每一步决策时都得充分考量对手的各种可能情形,这就关联到对手行为与心理建模、欺诈与反欺诈等诸多问题。
研究者觉得,德州扑克游戏规则极为简单,并且边界是确定的,因而它格外适合当作一个虚拟实验环境,用以对博弈的相关基础理论方法以及核心技术算法予以深入探究。
近年来,国际上的研究者,在那大规模不完美信息博弈问题里,针对德州扑克的优化求解方面,也是取得了长足进步。
比如,之前,加拿大阿尔伯特大学的研究者设计出AI程序DeepStack,美国卡内基梅隆大学的研究者也设计出AI程序Libratus,并且,先后这些AI程序在两人无限注德州扑克里均战胜了人类专业选手,随后,卡内基梅隆大学设计的Pluribus又在六人无限注德州扑克中战胜了人类专业选手。
但当下,主流的德州扑克AI背后,其核心观念是,借助反事实遗憾最小化,也就是Counterfactual Regret Minimization,简称为CFR的算法,去接近纳什均衡策略,。
特别详细来讲,首先运用抽象也就是Abstraction这种技术,去压缩对应德扑的状态以及动作空间,以此来让博弈树的规模得以减小,接着在经过缩减处理的博弈树上开展CFR算法迭代。
这些方法极度依赖人类专家知识来开展博弈树抽象,而且CFR算法要对博弈树的状态结点持续进行采样遍历和迭代优化,即便历经模型缩减后,依旧需耗费大量的计算资源与存储资源。比如说,DeepStack运用了153万的CPU时以及1.3万的GPU时来训练最终的AI,在对局阶段需要借助一个GPU进行1000次CFR的迭代过程,平均每个动作的计算要耗时3秒。Libratus 耗费了超过 300 万的 CPU 时间来生成初始策略,每一次进行决策都得搜索 4 秒之上,。
这么大量的计算,以及存储资源的消耗,严重地阻碍了德扑AI的进一步研究,还有发展;同时,CFR框架特别难直接就拓展到多人德扑环境里,增加玩家数量会致使博弈树规模呈指数增长。另外,博弈树抽象不但需要大量的领域知识,而且会不可避免地丢失一些对决策具备至关作用的信息。

2 AlphaHoldem 是何方神圣?
中国有不少研究者被这个问题所吸引,在这些研究者当中,有中科院自动化所的兴军亮教授团队。去年12月,兴军亮教授领导博弈学习研究组针对德州扑克任务,提出了一种两人无限注德州扑克AI程序AlphaHoldem,这个程序是高水平、轻量化的。
不同于那种基于CFR算法的已有的德州扑克AI,中科院博弈学习研究组所提出来的架构,则是基于端到端的深度强化学习算法的,(正如图4所展示的那样)。

图 4:端到端学习德州扑克 AI 学习框架
依据团队介绍,AlphaHoldem选用Actor-Critic学习框架,其输入为卡牌与动作的编码,接着借助伪孪生网络(结构一样参数不共享)提取特征,随后把一种改进的深度强化学习算法跟一种新型的自博弈学习算法相融合,在不依靠任何领域知识的情形下,直接从牌面信息端到端地学习候选动作来做出决策。
他们另外表明,AlphaHoldem 的这份成功,是因为它运用了这样一种编码状态有效率的方式,去完整地描绘当下以及过往状态的信息,还因为采用了某个基于 Trinal – Clip PPO 损失的深度强化学习算法,大幅提升训练进程的稳定性以及收敛速度,除此之外,还借助一种新型的 Best – K 自博弈方式,有效地缓和德扑博弈里存在的策略克制问题。
AlphaHoldem运用了一台配备八块GPU卡的服务器,历经三天的自博弈学习,战胜了Slumbot和DeepStack。每逢决策时,AlphaHoldem仅用时不到3毫秒,较DeepStack速度提升超千倍。与此同时,AlphaHoldem与四位高水平德州扑克选手对抗一万局的成果显示其已达人类专业玩家水准。
3 团队部分成员介绍

名为赵恩民的这个人,是论文的第一作者,是中国科学院自动化所,模式识别和智能系统专业博四的研究生,在2018年于清华大学拿到了工学学士学位,其拥有着计算机扑克以及深度强化学习这样的研究方向 。

名为兴军亮的人士,是中国科学院自动化研究所的研究员,同时身为博士生导师以及特聘青年骨干,也是中国科学院大学的岗位教授,还是中国科学院人工智能创新研究院创新专家组的专家。这位兴教授于2012年从清华大学计算机科学与技术系毕业,进而获得了工学博士学位。
除此以外,他身为美国电器与电子工程学会,也就是IEEE的高级会员,是美国《科学》杂志中国官方公众号的特邀评论员,属于中国计算机学会,即CCF的高级会员,并且还是计算机视觉专委会委员。
主要研究领域是计算机视觉这一块儿,还有计算机博弈,目前呢,已经在像TPAMI、IJCV、AI这样的顶级国际期刊,以及像ICCV、CVPR、AAAI、IJCMI这样的顶级国际会议上发表了100多篇论文,谷歌学术引用超过10000次。并且出版了2部计算机视觉译著,还参与撰写了深度学习领域著作1部,人工智能领域著作1部。
曾经获得清华大学计算机系给予的“学术新秀”称号,还有“谷歌学者”称誉,多次在顶级国际会议以及国内会议中荣获最佳论文奖这般的荣誉与奖励,并且十余次在人脸识别、车辆识别、视频识别等方面的国际比赛以及国内挑战赛里斩获奖项。
现阶段身为项目以及课题负责人,承担着多项国家重点项目。其所研发的视觉感知相关技术,在国家广电总局,在华为,在微软等,都获得到了好几次能够验证应用以及落地推广的情况,最终取得了不错的经济效益以及社会价值。
这些年,围绕深度强化学习所属的智能感知以及决策问题展开主要工作,研发了多款博弈决策 AI,这些 AI 针对不同游戏,其中,所研发的星际争霸 AI,在 2017 年 IEEE CIG 星际争霸 AI 比赛里获得了第 2 名,所研发的德州扑克 AI 程序 AlphaHoldem,其胜率超越了当下公开的最佳德州扑克 AI 程序 DeepStack,并且速度提升幅度大于 1000 倍,还开放了学界首个大规模不完美信息博弈平台 OpenHoldem 。
4 AAAI 2022 其他获奖工作
杰出论文奖:
创作团队当中有,Virginie Do,还有Sam Corbett-Davies,另外还有Jamal Atif,以及Nicolas Usunier 。
杰出学生论文奖:
论文名称:InfoLM ,是一种用于评估摘要及数据到文本生成的新型度量标准 。,它是一种新型度量标准用于评估摘要及数据到文本生成 。
作者团队由Pierre Colombo组成,还有Chloé Clavel,以及 Pablo Piantanida。
卓越论文奖:
在中科院兴军亮团队的 AlphaHoldem 之外,另外有旨在获取 AAAI 2022“卓越论文奖”的 5 篇工作。它们分别如下,。
经认证的,用于组合优化的对称性与优势打破,论文名称:《Certified Symmetry and Dominance Breaking for Combinatorial Optimisation》。
作者团队成员分别是,Bart Bogaerts德信竞技,Stephan Gocht,Ciaran McCreesh以及Jakob Nordström组成 。
网上引出必然最优匹配的论文名称是,Online Elicitation Of Necessarily Optimal Matchings 。
作者团队:Jannik Peters
论文名称:基于采样的、带有非高斯噪声的自主系统鲁棒控制,其中自主系统带有非高斯噪声,是基于采样的鲁棒控制的对象 。
Thom S. Badings、Alessandro Abate、Nils Jansen、David Parker、Hasan A. Poonawala、Marielle Stoelinga等诸位所构成的称作作者之类别之分的团队 , 。
作者团队由,Jorge A. Baier,以及,Carlos Hernández,还有,Nicolás Rivera组成。
作者团队中有,Yanick Ouellet,还有 Claude – Guy Quimper。


