公司新闻

您的当前位置:主页 > 公司新闻 >

谷歌人工智能伦理部门动荡不安 已引起外部监管

发布日期:2021-09-25 09:35 来源:未知 点击:

北京时间6月2日下午消息,据报道,谷歌近日向外界表示,它仍坚定致力于以合乎道德规范的方式进行人工智能研究。该公司还做出承诺,将把人工智能研究人员数量增加一倍,达到200人。谷歌首席执行官皮查伊也表示,将为更多符合伦理规范的人工智能项目提供资金支持。

六个月前,谷歌的人工智能伦理明星研究员蒂姆尼特·格布鲁(Timnit Gebru)遭到解雇,原因是她在一篇学术论文中对谷歌的一项人工智能技术提出了伦理质疑。今年五月份,谷歌人工智能负责人杰夫·迪安(Jeff Dean)表示,尽管格布鲁离职事件影响到了谷歌的声誉,但人们需要向前看。

然而,对谷歌人工智能伦理团队的部分成员来说,现实与谷歌高管的公开宣示却有所不同。该团队是谷歌新成立的一个人工智能分支研究机构,共有成员十人,主要任务是研究人工智能如何影响社会。根据成员的反映,该团队几个月来一直处于一种前途未卜的状态。团队成员怀疑,公司是否能在学术界重建信誉,以及公司领导是否会听取团队的建议。目前,两位团队领导已经离职,而谷歌尚未聘请到合适的继任者。许多成员感到职业前景不稳定,一些人开始考虑离开谷歌,准备去其他科技公司工作或者重返学术界。

谷歌人工智能部门的发言人已拒绝就人工智能伦理团队的事情发表评论。

谷歌的研究机构拥有数千研究人员,但专门研究人工智能伦理的仅有十人。人工智能伦理团队以发表了有关人工智能训练数据集的算法公平性的开创性论文而闻名于世。该团队为谷歌在学术界建立起了学术声誉,证明谷歌有能力进行前沿、有时甚至是批判性的研究——这对谷歌来说非常重要。毕竟,每天都有几十亿人依赖谷歌的产品来遨游互联网,而该公司的核心产品,比如搜索引擎,正越来越依赖人工智能。

虽然人工智能在癌症诊断、地震探测和与人类交互方面具有改变世界的潜力,但这一正处飞速发展阶段的技术也会有可能扩大对女性和少数族裔的偏见,对个人隐私构成威胁,以及导致碳排放的增加。谷歌为此建立了一个审查程序,用以确定新的人工智能技术是否符合其在2018年提出的人工智能伦理原则。在这一背景下,人工智能伦理团队的职责是帮助谷歌寻找公司在人工智能领域的盲点,确保公司负责任地开发和应用人工智能技术。然而,人工智能伦理专家格布鲁的离职引发了巨大的争议,并导致了人工智能伦理团队的人事动荡。一些学者开始担心,谷歌在开发有可能改变世界的人工智能新技术时,可能无法充分处理公司内部的伦理反馈意见。

例如,今年5月,谷歌发布了一款新的皮肤病人工智能检测应用程序,但这款应用程序引发了批评,因为它有一个明显的缺点:它在测试数据中大大低估了较浅肤色与较深肤色的对比。如果在发布前能事先咨询一下人工智能伦理团队,这一问题原本有可能加以避免。

在过去的几个月里,谷歌伦理研究团队的领导层一直处于持续动荡的状态。在短短几个月的时间里,该团队继格布鲁研究员离职后,又先后失去了两位领导人。今年2月,谷歌解雇了梅格·米切尔(Meg Mitchell),正是她负责创建了谷歌人工智能伦理团队,并与格布鲁共同领导该团队。到了4月份,米切尔和格布鲁的直接领导、顶尖人工智能科学家萨米·本吉奥(Samy Bengio)也宣布辞职。本吉奥曾向外界表示,他对格布鲁的解职感到“震惊”。本吉奥是谷歌大脑研究部门的负责人,谷歌人工智能伦理团队正是在其领导下开展工作。从谷歌离职后,他将领导苹果公司一个新建立的人工智能研究团队。

2月中旬,谷歌任命前工程副总裁玛丽安·克劳克(Marian Croak)为新成立的人工智能责任部门(Responsible AI Department)的负责人,人工智能伦理团队也划归该部门管理。然而,克劳克的行政级别太高,因此并不直接参与该团队的日常运作。

这样一来,人工智能伦理团队的运作就变得比较尴尬。他们不得不向上述已经离职的领导人寻求非正式的工作指导和研究建议。团队成员搭建了临时的组织架构,让每位成员轮流负责每周的部门会议。他们还自行指定了两名研究人员,定期与谷歌其他团队沟通,以让他们了解团队的最新成果。由于谷歌在全球雇用了超过13万名员工,对像人工智能伦理团队这样的小团体来讲,一般很难知道他们的工作成果是否真正应用到了公司的产品中。

过去的半年对该团队的新成员来说显得尤其困难,他们有时甚至不知道该如何领取自己的薪水,以及如何才能访问谷歌的内部研究工具。一些团队成员在看到格布鲁和米切尔的遭遇后,开始觉得他们正在从事的工作有风险,担心如果以后他们的工作成果也引发了争议,那么他们也可能会被解雇。

克劳克是一位有成就的工程研究领导人,但在人工智能伦理领域经验不足。在与人工智能伦理团队的会面中,她试图向员工保证,她是团队的盟友。克劳克是谷歌级别最高的黑人高管之一。在谷歌,黑人女性只占员工总数的1.2%。她承认,谷歌在改善员工种族和性别多样性方面缺乏进展。据几位研究人员称,克劳克在与人工智能伦理团队的会面中,也向团队成员表达了歉意,对团队目前的困境表示感同身受。

然而,又有消息称,这位高管与人工智能伦理团队的关系还是出现了问题,因为他们觉得她只是做出了一些空洞的承诺。在克劳克被正式任命为人工智能责任部门负责人之前几周,她就已经与人工智能伦理团队的成员进行了非正式的交流,讨论如何修复对团队造成的损害。然后,人工智能伦理团队的成员共同起草了一封信,提出了包括对团队进行“结构改革”在内的一些建议。谷歌后来确实对团队进行了重组,并将团队划归新组建的人工智能责任部门管理。然而,团队成员是公司内部最后得知此事的人。因此,当团队成员得到消息时,他们是一脸的懵逼。团队成员对此感到很不满,认为重组过程与他们缺乏沟通,不尊重他们。

一些团队成员对自己在谷歌的未来感到悲观,并开始怀疑是否真正拥有展开研究所必需的自由环境。他们要求谷歌公开承诺学术自由,并澄清其学术研究审查程序。截至目前,谷歌尚未对这些要求有所回应。此外,团队成员还希望谷歌向已经离职的格布鲁和米切尔道歉,并向她们再次提供工作机会——但目前看来,这些要求极不可能实现。而且,格布鲁也已经表示,即使谷歌再次向她提供工作机会,她也不会回来。

一些团队成员表示,他们正在考虑离开公司。在竞争激烈的人工智能领域,顶尖研究人员可以拿到七位数的薪水,如果这些人员离职,那将是谷歌的一个巨大损失。

现在,谷歌在学术研究领域的地位正变得岌岌可危。到目前为止,谷歌是科技行业最大的研究资助者之一——它去年在研发领域投入了270多亿美元,这甚至超过了美国宇航局(NASA)的年度预算。但谷歌人工智能伦理团队近期出现的这些争议性事件,让一些学者质疑,谷歌的让研究人员自由开展研究的承诺,是否已被公司的商业利益所束缚。

数千名计算机科学教授和研究人员曾签署了一份请愿书,批评谷歌解雇格布鲁的举动,称之为“前所未有的学术研究审查” 。谷歌的人工智能高管心里很清楚,谷歌已经失去了学术界的信任。迪恩在今年2月的一次员工研究会议上发表评论称,重建信任的策略是“继续发表‘非常有趣’的前瞻性工作”。他说,“重新获得人们的信任需要一点时间。”

然而,重建信任所需的时间恐怕不止“一点”。加拿大安大略西部大学(Western University)的研究人员卢克·斯塔克(Luke Stark)评论说:“我认为,目前谷歌基本上是无法挽回其在学术界的声誉的,至少中期来看是如此。”斯塔克最近还拒绝了谷歌的六万美元的不受限制资助,以抗议格布鲁的被迫离职。据报道,他是有史以来第一个拒绝谷歌研究资助的学者。此外,还有另外两个人工智能研究团体也已经表示将拒绝谷歌的任何资助。

目前,至少有四名谷歌员工,包括一名工程总监和一名人工智能研究人员,已经离开公司,并且是以格布鲁被解雇作为辞职理由。当然,这些离职仅代表了一个大群体中的少数人。其他人选择留下是因为他们仍然相信事情会有转机。一位不属于人工智能伦理团队的员工表示,他和同事们强烈反对谷歌解雇格布鲁的决定,但他们也觉得,留下来继续做有意义的工作是他们的责任。

对谷歌如何处理人工智能的伦理问题表示担忧的远不止学术界,监管机构也开始关注此事。去年12月,9名国会议员致函谷歌,要求谷歌就格布鲁被解雇一事作出解释。颇具影响力的族裔正义组织“Color of Change”也呼吁,对谷歌解雇格布鲁一事所可能存在的种族歧视展开外部调查。

这些外部团体正密切关注谷歌人工智能部门内部发生的事情。他们意识到人工智能将在人类生活中发挥越来越大的影响。几乎所有主要的科技公司,包括谷歌在内,都将人工智能视为现代世界的一项关键性技术。基于反垄断的考虑,谷歌已经成为了政治上的热门话题,谷歌人工智能部门正面临着很高的政治风险。

友情链接:十城网东方企业家电脑知识网游戏下载基地育儿网武汉建筑职业培训制造业经理人网澳门精准资料大全正版资料2020完整下载香港最快开奖直播香港最近50期开奖记录澳门码上期开奖结果香港特马开马开奖结果下载2020年澳门全年资料2021年免费资料大全2020澳门今晚开奖结果2021年春节手抄报资料今晚有什么生肖必开特号2020年开奖记录全年版澳门正版资料免费大全2021年香港六和合免费资料图库香港最快开奖直播开奖记香港马全年免费资料大全澳门彩开奖结果直播2021正版资料大全完整版澳门六开彩正版资料网2021香港最准马资料免费二四六免费精选资料大全626969cc澳彩资料大全2021年6087152020香港历史开奖记录版4949澳门开奖结果二四六118玄机图库资料大全1995澳门论坛资料四肖8码直播港澳台2021年2020香港历史记录完整版655555香港历开奖记录香港正版开奖结果记录查一下今晚开什么特马今天香港开奖香港最快开奖现场记录结果1澳门2020开奖结果+开奖记录澳门特马2021开奖结果4887香港本港台最快开奖结果现场直播香港历史开奖结果记录现场精选全年二四六资料二四六玄机资料_1188图库香港历史开奖记录查询刘伯温四肖中特期期精准香港六宝典最新版开奖二四六香港合彩开奖现在手机看香港本港台直播2020今晚已开特马+开奖结果52479con2021年开奖记录2019年香港开马纪录2020澳彩开奖结果开奖直播香港澳门精准资料大全免费资料金牛版澳门开奖下载2021年特马免费资料841995澳门论坛资料2017年红2020历史开奖结果完整版澳门开奖现场直播网站香港特马开马开奖结果68期2020特马网站今晚开特马2021年马会免费资料澳门玄机网网址2019年开奖记录完整版二四六每期玄机资料免费大全246特马资料免费网2020澳门六码六肖论坛资料现场直播开奖记录香港澳门全年历史图库2020香港开奖结果是什么下载的香港特马开马开奖结果602020年特马开奖结果资料今晚今晚开什么特马资料免费一特马资料免费网2019香港本港台现场开奖2021年东成西就4肖八码澳门码网站资料管家婆期期准免费资料精选下载今晚开生肖奖结果2021年最新版免费资料大全香港最快开奖直播33395二肖中特免费公开资料2017香港历史开奖记录图2020今晚开特马+开奖结果4328882020年开奖记录完整版澳门论坛六肖资料网址下载香港特马开马开奖结果20202020年特马免费资料二四六正版资料大全全年2020澳门手机开奖网开奖直播现场手机机看开奖结果澳门全年历史图库2020开奖全部结果开奖直播现场香港20182021年香港马第二期资料正版免费全年资料大全2021年澳门官方开奖网站一天一站2021年香港特马最新开奖结果今天开什么特马资料2020香港最新开奖结果六盒宝典香港最快开奖结果现场直播视频2020年特马开奖结果2020今晚特马资料2021年香港马资料大资料大全网站澳门论坛六肖一码香港特马开马开奖结果直播澳门手机开奖网站香港王中王493333开奖结果二四六天天好资料玄机图澳门现场直播开奖2021澳门图库澳门玄机网下载今晚开什么特马白小姐买吗六和彩开码记录王中王中特网资料大全彩霸王三码中特2021今期开的什么特马香港资料2021独家特马资料香港历史开奖记录十开奖结果查询2020年今晚开什么码2021年香港马免费资料大全澳门开奖现场+开奖直播澳门玄机网下载app香港特马开马开奖结果下载2020开奖记录历史结果更新本港台直播平台香港澳门彩开奖结果澳门码全年开奖记录香港本期开奖结果直播现场香港王中王精选中特免费资料香港免费资料+王中王香港四肖中特期期准精选二四六118每期玄机资料澳门123开奖资料白小姐开奖结果历史记录香港正版二四六资料大全6合宝典图库免费大全香港历史开奖记录完整版2020年澳门开码结果2020今晚特马结果全年资料2020香港免费资料+王中王查澳门天天马全年资料六和彩开奖结果查询2020年香港全年开奖结果2020最快开奖历史记录2020特马资料澳门49码开奖结果网站下载今天出的特马澳门六开彩开奖网址现场直播澳门网二四六图片玄机118资料大全澳门每天一期开奖结果走势澳门玄机网2021特彩吧高手网免费资料香港开奖结果2021开奖记录香港6合开彩资料大全澳门六开彩正版资料澳门之星2021年澳门全年开奖资料2021管家婆图库资料大全香港历史开奖结果2020+开奖记录完整下载澳门彩开奖网站2021特马资料大全免费今晚上开什么特马生肖2021澳门彩全年资料6合资料论坛香港开奖结果2020+开奖记录118玄机图资料大全 图库香港6合资料网址澳门手机彩票网二四六香港开码资料118玄机图库澳门论坛六肖六2020澳门生肖彩资料开奖直播现场开奖结果查询香港历史开奖结果2019+开奖记录完整版2020开奖记录完整版2020香港特马开马开奖结果记录二四六综合正版玄机资料澳门天天开奖资料大全2020开奖历史记录完整澳门精准免费资料大全355118图库118论坛之网址之家2021马会特马全年资料香港最快开奖直播记录结果香港开奖历史记录结果澳门幽默玄机网址577777开奖现场历史记录今晚都在买什么特马澳门六开彩免费资料网澳门码开奖现场直播+开奖118彩图库彩图全部118o2020今晚开什么香港6合和彩免费资料开奖直播现场开奖结果查询开奖记录新澳门玄机网资料站一肖中特期期公开验证2018年开奖记录完整版今晚开什么码开奖结果香港特马开马开奖结果70期澳门玄机网二四六精选资料大全2澳门六开彩手机开奖一肖中特期期公开验证白小姐六肖中特开奖二四六图片玄机118库存2020年香港开奖历史记录,开将结果626969资料网站2020今晚特马资料下载澳门玄机网2020今晚开特马+开奖结果手游今晚开什么特马一定中2019香港最快开奖现场直播i987看香港澳门彩开奖软件今天开什么码最新资料2020今晚开奖现场直播开二四六好彩118图片玄机图626969cm澳门资料大全128二四六天天好彩免费结果香港开结果开奖现场直播澳门每天一期开奖结2020年香港开奖记录-手机版下载118图库二四正六正版资料3438二四六好彩料玄机图1182021年国考资料百度云香港现场直播开奖结果果2019香港开奖最快报码室开奖结果2020年香港+六+合+资料香港最快报码开奖室香港开奖现场直播60766香港最快开奖记录现场直播澳门每天开奖结果2021年全年免费资料大全2020今晚特马结果2019年开奖记录 手机版香港最快开奖现场六开奖直播现场香港播下载香港六开奖结果合彩开奖码开奖结果六彩开奖结果查询今天开奖香港澳门玄机图片澳门玄机网网站特马最新资料最准2019本港台香港现场开奖结果香港正版二四六论坛澳门cc6269692020今晚特马开奖结果查询2020今晚开奖现场结果67开马的网站是什么澳门天天彩开奖现场直播下载澳门玄机网8627开奖结果开奖记录大乐透开奖结果号码330330开奖香港香港777177开奖结果2021澳门全年开奖免费资料2020今晚开码特开奖今晚特马资料精准大全今晚特马开奖结果2020年澳门正版玄机港澳台电视直播app2020年最准特马资料开奖结果tvb直播翡翠台在线看去年澳门开奖记录澳门六下彩资料库2020特马资料大全免费下载2020香港历史开奖记录表2018六开奖历史记录网香港一肖中特期期公开48111今晚特马开多少资料2019香港开奖现场直播结果2020年香港开奖历史资料记录香港宝典全年资料香港开奖结果2021年香港马正版免费资料+资料大全中国香港澳门论坛六肖资料搜索澳门彩开奖直播+网址澳门码开奖网站澳门全年历史图库2020澳门网上电玩城今晚买几号特马一定中澳门开奖直播网站香港开奖结果2019开奖历史记录在线查询香港特马开马开奖结果316969香港6合资料大全查询二四六天天好彩精选资料香港特马开马开奖结果67澳门彩手机看开奖2021年香港最准马资料四不像2020年今晚开特马+开奖结果
友情链接:十城网东方企业家电脑知识网游戏下载基地育儿网武汉建筑职业培训制造业经理人网澳门精准资料大全正版资料2020完整下载香港最快开奖直播香港最近50期开奖记录澳门码上期开奖结果香港特马开马开奖结果下载2020年澳门全年资料2021年免费资料大全2020澳门今晚开奖结果2021年春节手抄报资料今晚有什么生肖必开特号2020年开奖记录全年版澳门正版资料免费大全2021年香港六和合免费资料图库香港最快开奖直播开奖记香港马全年免费资料大全澳门彩开奖结果直播2021正版资料大全完整版澳门六开彩正版资料网2021香港最准马资料免费二四六免费精选资料大全626969cc澳彩资料大全2021年6087152020香港历史开奖记录版4949澳门开奖结果二四六118玄机图库资料大全1995澳门论坛资料四肖8码直播港澳台2021年2020香港历史记录完整版655555香港历开奖记录香港正版开奖结果记录查一下今晚开什么特马今天香港开奖香港最快开奖现场记录结果1澳门2020开奖结果+开奖记录澳门特马2021开奖结果4887香港本港台最快开奖结果现场直播香港历史开奖结果记录现场精选全年二四六资料二四六玄机资料_1188图库香港历史开奖记录查询刘伯温四肖中特期期精准香港六宝典最新版开奖二四六香港合彩开奖现在手机看香港本港台直播2020今晚已开特马+开奖结果52479con2021年开奖记录2019年香港开马纪录2020澳彩开奖结果开奖直播香港澳门精准资料大全免费资料金牛版澳门开奖下载2021年特马免费资料841995澳门论坛资料2017年红2020历史开奖结果完整版澳门开奖现场直播网站香港特马开马开奖结果68期2020特马网站今晚开特马2021年马会免费资料澳门玄机网网址2019年开奖记录完整版二四六每期玄机资料免费大全246特马资料免费网2020澳门六码六肖论坛资料现场直播开奖记录香港澳门全年历史图库2020香港开奖结果是什么下载的香港特马开马开奖结果602020年特马开奖结果资料今晚今晚开什么特马资料免费一特马资料免费网2019香港本港台现场开奖2021年东成西就4肖八码澳门码网站资料管家婆期期准免费资料精选下载今晚开生肖奖结果2021年最新版免费资料大全香港最快开奖直播33395二肖中特免费公开资料2017香港历史开奖记录图2020今晚开特马+开奖结果4328882020年开奖记录完整版澳门论坛六肖资料网址下载香港特马开马开奖结果20202020年特马免费资料二四六正版资料大全全年2020澳门手机开奖网开奖直播现场手机机看开奖结果澳门全年历史图库2020开奖全部结果开奖直播现场香港20182021年香港马第二期资料正版免费全年资料大全2021年澳门官方开奖网站一天一站2021年香港特马最新开奖结果今天开什么特马资料2020香港最新开奖结果六盒宝典香港最快开奖结果现场直播视频2020年特马开奖结果2020今晚特马资料2021年香港马资料大资料大全网站澳门论坛六肖一码香港特马开马开奖结果直播澳门手机开奖网站香港王中王493333开奖结果二四六天天好资料玄机图澳门现场直播开奖2021澳门图库澳门玄机网下载今晚开什么特马白小姐买吗六和彩开码记录王中王中特网资料大全彩霸王三码中特2021今期开的什么特马香港资料2021独家特马资料香港历史开奖记录十开奖结果查询2020年今晚开什么码2021年香港马免费资料大全澳门开奖现场+开奖直播澳门玄机网下载app香港特马开马开奖结果下载2020开奖记录历史结果更新本港台直播平台香港澳门彩开奖结果澳门码全年开奖记录香港本期开奖结果直播现场香港王中王精选中特免费资料香港免费资料+王中王香港四肖中特期期准精选二四六118每期玄机资料澳门123开奖资料白小姐开奖结果历史记录香港正版二四六资料大全6合宝典图库免费大全香港历史开奖记录完整版2020年澳门开码结果2020今晚特马结果全年资料2020香港免费资料+王中王查澳门天天马全年资料六和彩开奖结果查询2020年香港全年开奖结果2020最快开奖历史记录2020特马资料澳门49码开奖结果网站下载今天出的特马澳门六开彩开奖网址现场直播澳门网二四六图片玄机118资料大全澳门每天一期开奖结果走势澳门玄机网2021特彩吧高手网免费资料香港开奖结果2021开奖记录香港6合开彩资料大全澳门六开彩正版资料澳门之星2021年澳门全年开奖资料2021管家婆图库资料大全香港历史开奖结果2020+开奖记录完整下载澳门彩开奖网站2021特马资料大全免费今晚上开什么特马生肖2021澳门彩全年资料6合资料论坛香港开奖结果2020+开奖记录118玄机图资料大全 图库香港6合资料网址澳门手机彩票网二四六香港开码资料118玄机图库澳门论坛六肖六2020澳门生肖彩资料开奖直播现场开奖结果查询香港历史开奖结果2019+开奖记录完整版2020开奖记录完整版2020香港特马开马开奖结果记录二四六综合正版玄机资料澳门天天开奖资料大全2020开奖历史记录完整澳门精准免费资料大全355118图库118论坛之网址之家2021马会特马全年资料香港最快开奖直播记录结果香港开奖历史记录结果澳门幽默玄机网址577777开奖现场历史记录今晚都在买什么特马澳门六开彩免费资料网澳门码开奖现场直播+开奖118彩图库彩图全部118o2020今晚开什么香港6合和彩免费资料开奖直播现场开奖结果查询开奖记录新澳门玄机网资料站一肖中特期期公开验证2018年开奖记录完整版今晚开什么码开奖结果香港特马开马开奖结果70期澳门玄机网二四六精选资料大全2澳门六开彩手机开奖一肖中特期期公开验证白小姐六肖中特开奖二四六图片玄机118库存2020年香港开奖历史记录,开将结果626969资料网站2020今晚特马资料下载澳门玄机网2020今晚开特马+开奖结果手游今晚开什么特马一定中2019香港最快开奖现场直播i987看香港澳门彩开奖软件今天开什么码最新资料2020今晚开奖现场直播开二四六好彩118图片玄机图626969cm澳门资料大全128二四六天天好彩免费结果香港开结果开奖现场直播澳门每天一期开奖结2020年香港开奖记录-手机版下载118图库二四正六正版资料3438二四六好彩料玄机图1182021年国考资料百度云香港现场直播开奖结果果2019香港开奖最快报码室开奖结果2020年香港+六+合+资料香港最快报码开奖室香港开奖现场直播60766香港最快开奖记录现场直播澳门每天开奖结果2021年全年免费资料大全2020今晚特马结果2019年开奖记录 手机版香港最快开奖现场六开奖直播现场香港播下载香港六开奖结果合彩开奖码开奖结果六彩开奖结果查询今天开奖香港澳门玄机图片澳门玄机网网站特马最新资料最准2019本港台香港现场开奖结果香港正版二四六论坛澳门cc6269692020今晚特马开奖结果查询2020今晚开奖现场结果67开马的网站是什么澳门天天彩开奖现场直播下载澳门玄机网8627开奖结果开奖记录大乐透开奖结果号码330330开奖香港香港777177开奖结果2021澳门全年开奖免费资料2020今晚开码特开奖今晚特马资料精准大全今晚特马开奖结果2020年澳门正版玄机港澳台电视直播app2020年最准特马资料开奖结果tvb直播翡翠台在线看去年澳门开奖记录澳门六下彩资料库2020特马资料大全免费下载2020香港历史开奖记录表2018六开奖历史记录网香港一肖中特期期公开48111今晚特马开多少资料2019香港开奖现场直播结果2020年香港开奖历史资料记录香港宝典全年资料香港开奖结果2021年香港马正版免费资料+资料大全中国香港澳门论坛六肖资料搜索澳门彩开奖直播+网址澳门码开奖网站澳门全年历史图库2020澳门网上电玩城今晚买几号特马一定中澳门开奖直播网站香港开奖结果2019开奖历史记录在线查询香港特马开马开奖结果316969香港6合资料大全查询二四六天天好彩精选资料香港特马开马开奖结果67澳门彩手机看开奖2021年香港最准马资料四不像2020年今晚开特马+开奖结果