先播后审规则下，存在涉赌直播取证难等问题，AI技术、行业联动等或可有效监管

　　砍手指、吃蜈蚣、开设赌局、“萝莉变大妈”……在先播后审的监管规则下，低俗、涉赌等直播内容仍不时在直播平台出现，直播平台内容合规化道路仍然艰巨。除了技术手段之外，还有哪些办法能够有效监管、抵挡不良内容？南都记者近期采访了部分相关人士。

　　涉赌直播取证难

　　近期，南方都市报对斗鱼、CC直播上有主播借网游《问道》《梦幻西游》等游戏开设赌场等现象进行了系列报道。报道后涉事直播平台对相关主播进行了封号、禁播等处理。

　　早在2007年，公安部等四部委就联合发出了《关于规范网络游戏经营秩序查禁利用网络游戏赌博的通知》，其中明确规定不得提供将游戏虚拟货币兑换成法定货币的服务、不得收取或以“虚拟货币”等方式变相收取与游戏输赢相关的佣金。因此，“双向兑换”和“抽佣”被视为判定网络游戏是否涉赌的红线。

　　据北京志霖律师事务所的赵占领律师介绍，对于直播平台或者网络游戏中的游戏虚拟物品竞猜是否涉嫌构成赌博，需从3个方面进行判断。一是参与竞猜的资格如何获得，“涉赌前提之一是用现金或者通过虚拟货币购买竞猜资格。如果资格是免费获得，则不构成赌博”。其次，是竞猜获得的物品本身能否变现。最后是看网络服务商对于竞猜所得物品是否提供了变现的渠道，“为用户之间转让竞猜所得物品提供交易平台，也涉嫌构成开设赌场。”

　　为何直播间涉赌屡禁不止？有分析师表示，由于在线支付平台的普及，赌资兑现往往通过第三方平台，游戏本身并未构成“双向兑换”。因此，在监管层面存在较大难度。此外，直播间游戏涉赌行为具有隐蔽性与多样性，网络游戏中任何玩法都有可能被不法之徒利用，“说白了就是啥都能赌”。

　　广州某知名直播平台工作人员表示，从游戏层面来说，仅从网络游戏玩法来看，是完全合法合规的，而所有违规内容都是发生在网络游戏之外，比如在微信群、QQ群等社交平台进行投注。“这个就像是世界杯、欧洲杯的外围盘，国际足联、欧足联等是无法杜绝的一样”。

　　此外，上述工作人员还表示，证据搜集的流程也影响着平台打击网络赌博的成效。据其介绍，由于许多违规内容都是发生在直播平台外，直播平台提供的资料往往不能充当赌博的证据。警方需要调取其他平台的聊天记录才能进行判定，但其他平台一般不会开放这类信息，“即使能够查询到收付款流水，也只能证明是抢红包等个人行为。”

　　注册实名制仍存在漏洞

　　直播平台中，还存在注册实名信息与开播用户信息不一致的情况。这也给直播监管带来难度。

　　8月6日，“红花会”成员、说唱歌手贝贝在直播中砍手指后，事件迅速发酵，也登上当日微博热搜。尽管涉事的一直播平台的主播注册环节涵盖实名认证和人脸认证，但南都记者发现仍有漏洞存在。南都记者实测发现，在一直播平台，同一个人的身份信息只能注册一个直播账号。尽管注册中有人脸识别，如果直播时的用户并不是实名认证时上传信息的用户，平台也并不会出现提示信息或者停止直播。

　　一直播方面向南都记者表示，目前主播实名认证采取后台实名、前台自愿的原则。一直播对主播有AI人脸检测，但因为直播的特殊性，其过程中经常出现场景和人物的变化，“要对整个直播过程都进行人脸识别检测，以现有技术仍然存在一定难度”。

　　监管措施

　　技术手段+行业联动防范违规直播

　　1

　　技术手段：AI识别、大数据……

　　由于直播的即时性特征，直播平台对直播间的监管一般都是“先播后审”，其中事中监督环节是重中之重。但据了解，违规的直播有多种类型，如涉黄、广告、侵权、赌博等，并且直播间规模庞大，人工以或标准化的审核模型难以精准识别，误判、漏判的概率较高。

　　YY直播方面向南都记者介绍称，目前YY直播的审核机制以“AI识别+人工审核”的搭配为主。其中，借助AI视觉识别等方面的技术，YY直播大量审核工作交给AI技术处理。AI能够实时进行图像识别、音频识别、文字识别等行为，拥有数十个违规判断模型，只需数秒内即可发现违规内容。此外，还配合上千人的人工审核团队进行巡查。

　　此外，在直播期间，YY还会对直播地区、场景、内容品类等进行采集，利用大数据分析发现开播的异常，会安排巡查人员对主播核实，此时也可能触发人脸分析技术，向巡查人员提供参考信息。

　　许多违规内容通常都是在直播过程中才能发现。YY直播向南都记者透露，在主播开播时，YY直播对其开始进行大数据运算，分析预测本场直播内容的风险；同时会对房间用户公屏讨论内容进行语义分析，从整体讨论氛围中去预测主播的行为风险。

　　此外，大数据也应用在直播监管领域。一直播表示，会综合网友留言、过往直播是否存在问题等因素进行管理。为了最大限度地确保直播内容合法合规，一直播对用户有分级分类管理，并设有灰名单、黑名单等机制，也会对曾经出现过违规行为的主播加强审核。

　　2

　　行业联动：设置主播黑名单

　　一直播方面还向南都记者表示，针对直播间的涉赌、涉黄等违规行为，目前平台和监管部门、行业协会都有联动机制。一旦发现违法违规内容，平台都会进行信息的上报，配合相关部门进行处置，情节严重的还会通过行业协会，把主播直接加入到全网直播黑名单。

　　值得注意的是，在8月6日，中国演出行业协会网络表演(直播)分会发布向社会公布第三批主播黑名单，登上热搜的“乔碧萝殿下”和“红花会贝贝”。被列入黑名单的主播将在行业内禁止注册和直播，封禁期限5年。

　　中国演出行业协会网络表演(直播)分会表示，各直播平台第一时间向分会上报了劣迹主播信息及其违规证据，分会组织内容评议委员会专家组进行审核，并经分会会长联席会讨论通过，正式确定了第三批网络表演(直播)行业主播“黑名单”。其中，分会会将列入“黑名单”的主播信息实时同步各会员直播平台，各平台统一禁止其注册和开展直播活动。

　　据了解，主播“黑名单”是指在直播过程中含有禁止内容，严重违反网络直播有关法律法规，造成不良社会影响的主播名单。该名单来源主要由三部分组成：一是被各平台列入永久封禁并主动上报的主播；二是经社会举报并被核实的主播；三是被文化行政部门和文化市场综合执法机构等政府监管部门查处的主播。

　　此前，分会已陆续通过官方公众号公布了两批63名“黑名单”主播，被列入黑名单满5年的主播，可移出黑名单。5年后本人拟继续从事直播工作的，可向相关直播平台重新申请注册，具体是否同意开播由各平台自行决定。

　　新闻回顾

　　直播间乱象报道

　　今年6月起，南方都市报对斗鱼、CC等平台上有主播在直播间进行涉赌等现象，进行了系列报道。

　　6月底，有读者报料称，在《问道》游戏中，有斗鱼主播利用“五行竞猜”小游戏玩法开设赌局，有玩家自称输掉了几万元人民币。7月份，南都记者还发现斗鱼主播在直播间借《梦幻西游》进行赌博，以“宝图吃鸡”的噱头开设赌局，以游戏中物品产出的价值大小为输赢依据，主播则以坐庄或抽成的模式进行牟利。此外，继有斗鱼直播间被爆涉赌之后，南都记者日前在网易旗下的CC直播平台上也发现，有直播间利用网络游戏开设赌局。

　　7月23日，斗鱼主播“乔碧萝殿下”在直播时因“操作失误”，导致遮脸图片消失，暴露真实容貌，因与公布的自拍差距过大，被网友描述为“萝莉变大妈”。随后“乔碧萝殿下”直播间粉丝数从5万突破到70万，增长十余倍。7月30日，“乔碧萝殿下”曾表示，“露脸事件”是花费28万策划好的，并且已经开始接声卡和美颜相机的广告。次日，乔碧萝殿下在斗鱼被封号。斗鱼表示，称经平台调查核实，“萝莉变大妈”事件系主播“乔碧萝殿下”自主策划、刻意炒作。

　　7月20日，斗鱼主播“邵爷”被发现死在直播工作台上。据了解，该主播为了吸引粉丝，常在直播中玩一种“转盘吃东西”的游戏，转盘上会写有啤酒、蜈蚣、壁虎、芥末等物品，转到哪个就吃或喝对应的东西。据媒体报道，“邵爷”系“缺氧窒息”导致的死亡，根据调查情况看，“邵爷”曾在直播时饮酒。“邵爷”父亲表示：“警方说他是直播时喝酒，然后可能吃了什么壁虎、蜈蚣之类的，堵在气管里了。”

　　8月6日，Pgone前队友、嘻哈团队“红花会”成员贝贝在一直播平台直播，过程中突然砍下手指，并对着视频展示断指。随后，直播中断，贝贝也被送往医院。根据网友的录屏显示，贝贝砍下手指展示断指时面无表情。