直播间低俗表演、“诱导打赏”、封禁主播借壳复出……音视频直播平台存在哪些内容痛点？平台如何实现内容监管的治理创新？12月2日，2020音视频直播行业绿色内容生态共建峰会在北京举行，南都网络内容生态治理研究中心于会上发布了《音视频直播平台内容痛点及治理创新报告》（以下简称《报告》）。
自2019年12月起，南都网络内容生态治理研究中心对音视频直播行业的100余家平台展开为期一年的持续监测，上述报告基于这一年多研究成果的总结和微缩，着眼网络音视频、直播行业信息内容合规，剖析行业在主播管理、内容审核、直播打赏、未成年人、内容建设五个方面存在的管理瓶颈，以及行业治理现状。
【平台痛点】
317名主播遭行业封禁背后，四类违规行为须警惕
平台痛点/主播管理
经过一年多时间的监测巡查，《报告》将发生在平台内的主播常见违规行为归集为四种类型，第一种是沉疴已久的直播间低俗表演、传递不良价值观等行为。第二种是主播及其经纪代理的“诱导打赏”行为，第三种是利用直播间等公开渠道售卖违规资源或者色情服务。第四种是已遭平台甚至行业封禁主播通过换马甲、换平台借壳复出，比如，注册小号、采用“变声器”以身犯险。
在内容审核方面，行业审核能力参差、中小平台审核力量薄弱、审核团队颟顸的问题依然存在，最鲜明的表现是对举报处理的响应迟缓。今年7月，南都网络内容生态治理研究中心曾对13家直播平台的举报便捷度和反馈效率进行实测，在举报部分直播间低俗内容后，12小时内有8家平台作出回应，38%的平台没有回音，部分平台虽通过私信告知用户已接收到举报，但48小时内均未给出任何后续进展消息。
单次打赏金额超百万元，未成年人打赏难退
平台痛点/直播打赏
直播打赏，作为一种新型消费服务形态，创新与漏洞并存。南都网络内容生态治理研究中心曾针对直播打赏展开调查，发现存在打赏金额上限普遍设定过高、直播间内打赏过于频繁、利用“抽奖”“竞猜”“返利”等方式涉嫌组织网络赌博等现象。比如，通过100家平台的礼物打赏额度进行梳理，研究发现四成平台设置单次打赏金额最高可超百万元。
而未成年人打赏难退的纠纷，则暴露了平台在未成年人识别、退款机制不健全等诸多方面的短板。南都网络内容生态治理研究中心曾梳理25家平台用户协议中关于未成年人相关的条款，发现仅有不足四成平台对未成年人的充值消费行为做出提示，且多为“免责条款”。
教育频道现低俗内容，青少年模式黏性不够
平台痛点/未成年人
未成年人保护方面，未成年人浏览区域推荐低俗内容、适合未成年人浏览内容供给不足在行业中比较常见。今年疫情期间，虎牙直播、斗鱼直播被曝光其网课频道中充斥大量的游戏广告，涉事平台被责令暂停主要频道的内容更新。7月，国家网信办启动2020“清朗”未成年人暑期网络环境专项整治，9月，南都网络内容生态治理研究中心在调查中仍发现，腾讯视频教育频道存在与教育无关的短视频，其中包含标题封面性暗示、传播伪成功学、情感PUA、输出低俗庸俗价值观等内容，相关资源现已下架。
南都对全国15个省份近2000名未成年人家长进行的问卷调查中，近三成受访家长表示会开启青少年模式管理孩子浏览视频、直播的行为。
【监管要求】
未来将强化主播分级管理、限制高额打赏
今年以来，音视频、直播行业的规范化管理渐成体系。
结束为期半年的意见征求，《网络信息内容生态治理规定3月》正式出台，全新的治理思路有序展开，比如引领性的正能量内容生产、原则性的违规信息处置、更协调的联合执法制度、更互动的问题解决渠道，更多元的监督评价机制。而在监管层面，随着“净网”“护苗”“软色情”等专项行动、联合整治持续开展，淫秽色情及低俗信息依法受到严打。
6月，国家网信办等8部门启动为期半年的网络直播行业专项整治规范行动，先后分批次对出现利用色情低俗内容诱导打赏、传播低俗庸俗内容、不良价值观等现象的平台作出行政处罚。
11月23日，国家广播电视总局发布关于加强网络秀场直播和电商直播管理的通知，对直播平台内容生态治理提出了更为严格的要求，如以价值观为导向打造精品直播间版块或集群、加强审核能力建设、对主播实行分级管理、鼓励算法支撑优质视听内容推送等。
【治理创新】
音视频直播平台如何实现内容监管的治理创新？《报告》发现，目前部分平台已通过建立信用评价体系、技术赋能审核推荐，技术识别未成年人、优化青少年模式，以及人工算法干预内容导向等措施加强治理。
建立信用评价体系，技术赋能审核推荐
《报告》通过梳理音视频、直播平台内容治理创新做法发现，在主播管理方面，较多的如有建立信用管理体系和严格的评分机制，如酷狗直播等平台采取的主播管理分级分类措施，让主播行为直接与本人信用分相关，与公会信誉值挂钩，一旦主播违规，则公会也会被连带影响信誉值。
在审核方面，目前多数平台都采取了人机审核相结合的模式，比如自主研发AI、声纹等智能识别算法模型，用户内容一经上传，首先经过图片识别、语音识别等技术过滤，再由人工团队进行复核。
技术识别未成年人、优化青少年模式
关于未成年人消费、打赏难退等痛症，有效识别未成年人身份，实现有效的事前阻断是防范关键。目前，多数平台已建立起未成年人身份识别系统，通过人脸识别、用户画像、行为数据分析等多种技术手段来定位未成年用户，实施拦截。未成年人内容供给方面，多数平台通过对青少年模式的优化，实现内容的多元化、个性化输送。
人工算法，干预内容导向
此外，多家平台以正能量公益频道运营，策划正能量主题活动等方式提升平台内容质量，并采取优质主播激励机制，为积极传播正能量的主播提供更高的等级和收益。例如映客对于健康文明、积极传播正能量的主播，会提供更高的等级和收益；快手会不定期举办“快手大V正能量培训班”活动，鼓励快手大V营造更多的优质内容等。而在内容推荐体系方面，有平台已经开始利用人工干预赋予算法“价值导向”，如TT语音采取内以人工编辑为主，算法分发为辅的运营模式。
《音视频直播平台内容痛点及治理创新报告》
出品：南都大数据研究院 网络内容生态治理研究中心
北京师范大学网络法治国际中心
统筹：邹莹
研究团队：张雨亭 张稆方 罗韵 李润泽子 袁炯贤
实习生：施灿泳
数据来源：南都调查、测评