数字信息爆炸的时代，直播、短视频凭借趣味性、强互动、碎片化、陪伴性等特点，成为最受人们欢迎的娱乐方式之一，许多未成年人也沉浸在由一场场直播和一个个短视频构建出的虚拟世界中无法自拔。
直播、短视频平台为未成年人开启了一扇通往新世界的大门，同时也带来了一系列涉未成年人的新问题：“未成年人脱衣直播”、“11岁小学生打赏主播200万，刷爆50万信用卡才被发现”、“短视频平台惊现儿童邪典视频”……自2017年起，类似事件便不时曝光。
直播短视频乱象对未成年人造成的危害不容忽视。国家网信办近期启动了“清朗·暑期未成年人网络环境整治”专项行动，严禁16岁以下未成年人出镜直播，严肃查处炒作“网红儿童”行为，禁止诱导未成年人打赏行为，防止炫富拜金、奢靡享乐、卖惨“审丑”等现象对未成年人形成不良导向。
图片来源：国家网信办
在新一轮监管行动背景下，数美科技基于成熟的标签体系和多年风险内容识别经验，对直播短视频行业的涉未成年人痛点及监管政策深入分析，为直播短视频平台提供了一套行之有效的未成年人保护解决方案。
音频/图片/文本多维并行识别未成年人
一、未满16周岁严禁出镜，如何判断账号使用者的真实年龄？
边打游戏边解说，言语中掺杂脏话；穿着另类、动作夸张，唱着网络“喊麦”歌曲；谈情感创伤，在镜头前抽烟喝酒；唱歌跳舞，却不时做出性感挑逗动作……直播平台上，一些未成年人主播吸引了大批粉丝，成了小有名气的“网红”。
今年6月起施行的新修订《中华人民共和国未成年人保护法》明确规定，网络直播服务提供者不得为未满十六周岁的未成年人提供网络直播发布者账号注册服务。中央网信办“清朗·暑期未成年人网络环境整治”专项行动，也对16岁以下未成年人出镜直播现象明令禁止。
随着监管政策的不断施压，未成年人违规直播问题有所收敛。直播平台要求开播用户实名认证，在一定程度上已经将大部分的未成年主播拦在门外，却无法彻底解决未成年人在成年人直播间出镜的问题。去年曝出的“3岁女童被爸妈喂到70斤当吃播赚钱”，就是典型的成年人炒作“网红儿童”的行为，平台仅仅依靠账号实名认证，根本无法防住这类直播内容的出现。
3岁女童被爸妈喂到70斤当吃播赚钱
数美科技直播短视频行业未成年人保护解决方案从用户的全周期行为（开播画面、直播语音、连麦等环节）产生的多维内容入手，进行未成年人身份识别。
开播画面：主播的外貌特征是判断其年龄的最直观依据。数美科技采用基于深度学习的图片识别技术，构建强大的图片识别引擎，精准识别图片中未成年人特征，极大提升未成年人主播识别准确度。
数美科技能够对不同年龄段的人像画面做到智能识别，精准区分0-3岁的婴儿、3-8岁的儿童、8-18岁的青少年以及18岁以上的成年人形象，有效控制未成年人开播和直播涉未成年人问题的出现。除此之外，解决方案能够识别画面主体是否为未成年人，在此基础上区分未成年人单独出镜和与成年人混合出镜的情况。
直播语音、连麦：未成年人的音色与成年人有很大不同。数美科技通过解析直播间产生的音频内容，对主播的音色进行声学特征识别，未成年人的嗓音往往更加稚嫩，声调更高，在直播间说话、唱歌，都能够被准确识别；同时将主播的直播、连麦内容转换成文本，对其进行语义分析。举个例子，如果主播在直播或者连麦过程中提到“明天是我14岁生日”、“学校宿舍不让直播”、“上周没直播，我妈把我手机收了”，数美科技将这些语音转化成文本后就能对其进行语义分析，判断当前开播者有多大可能性是未成年人。
对开播画面和直播产生的音频内容进行全方位分析后，数美科技能够据此输出“未成年人”、“疑似未成年人”标签，当被标注“未成年人”、“疑似未成年人”的用户申请开播时，平台可对其开启人脸验证，验证不通过即可拒绝开播；验证通过后，平台可对直播间采取巡查措施，一旦涉及未成年人出镜问题，可以对其进行强制下播处理。
二、未成年人沉迷直播短视频，青少年模式形同虚设？
据共青团中央维护青少年权益部、中国互联网络信息中心（CNNIC）发布的《2020年全国未成年人互联网使用情况研究报告》，目前有82.9%的未成年网民拥有属于自己的上网设备，短视频作为新兴互联网娱乐服务，已经成为未成年人网民第三大网络娱乐活动；10.6%的未成年网民在工作日收看短视频超过2小时，在节假日刷短视频超过两小时的未成年网民将近五分之一。日常生活中我们也经常能够看到，有些未成年人一刷起手机短视频就欲罢不能。
图片来源：《2020年全国未成年人互联网使用情况研究报告》
对于各类直播短视频平台来说，青少年模式是防止未成年人沉迷的主要手段。自2019年3月起，国内主要短视频和直播平台开始试点上线“青少年模式”，通过内容、使用时段、时长等方面的特殊设计，引导青少年健康上网。目前，多数平台会在用户首次进入APP时进行弹窗提示。
然而，市面上有些青少年模式却形同虚设，未成年人可以自主选择是否进入青少年模式，甚至有些平台的青少年模式通过卸载后再安装这种小把戏就能被轻松绕过。
数美科技直播短视频行业未成年人保护解决方案通过全方位分析账号的评论、语音消息、动态等全周期、全旅程的行为和内容，对账号进行未成年人标注。当被标注“未成年人”、“疑似未成年人”的用户观看时长超过平台规定或者晚上十点后仍在使用时，平台可激活人脸验证流程，只有通过人脸验证的确定为成年人的用户才能够继续观看直播或视频，拒绝人脸验证或人脸验证不通过的用户，平台可采取强制下线措施。数美科技从账号层面提供未成年人识别服务，助力直播短视频平台强化未成年人禁用时长和时段管理，让青少年模式最大限度发挥效能。
三、“熊孩子”豪掷千金打赏主播，平台怎样识别未成年人充值打赏操作？
国家互联网信息办公室、全国“扫黄打非”工作小组办公室等七部委联合发布《关于加强网络直播规范管理工作的指导意见》指出，网络直播平台不得向未成年人提供充值打赏服务；建立未成年人专属客服团队，优先受理、及时处置涉未成年人的相关投诉和纠纷，对未成年人冒用成年人账号打赏的，核查属实后须按规定办理退款。
未成年人豪掷千金打赏网络主播，不但给其家庭带来了经济损失，后续的退款流程也为平台带来不必要的困难。网络直播短视频平台，应肩负起对未成年人充值打赏行为的监管责任。
目前，一部分平台已经要求打赏用户进行实名认证，未实名制注册的用户不能“打赏”，此举可以将大部分未成年用户隔离在打赏的“门外”。但是对于未成年人冒用成年人账号打赏的情况，平台往往处于被动地位，只能在事后处置未成年人相关的投诉和纠纷，并且面临着取证困难、程序繁琐等问题。
数美科技直播短视频行业未成年人保护解决方案从账号的行为和UGC内容入手，在成年人账号充值打赏之前，通过分析其评论、语音、个人资料等信息，初步判断账号的实际使用者是否疑似未成年人。在账号打赏过程中，对疑似未成年人账号增设人脸识别、身份核验关卡，提升未成年人打赏难度。平台可参考数美科技提供的账号标签和人脸验证结果，对可能存在异常消费的账号采取临时冻结消费、强制下线等功能，防止未成年人冒用或者借用成年人账号充值与打赏。
四、不良内容侵蚀未成年人，青少年模式太“无趣”？
对网络不良内容的监管一直是国家网信工作的重中之重。《人民日报》近日发布微博，坚决抵制网络三俗内容，要求对于侵害未成年人合法权益的问题保持“零容忍”态度，各网站平台要积极履行主体责任。
当前，许多直播短视频APP中仍然存在色情、烟酒、暴力等不适宜向未成年人展示的信息，部分主播在直播中打“软色情”擦边球，崇尚炫富拜金的价值观，卖惨、审丑之风盛行。由于未成年人心智尚不健全，对不良内容缺乏鉴别力，这类不良直播、不良视频给未成年人的价值观造成严重危害。
直播短视频平台可以看作是融合了文本、图片、音频、视频等多种形式的多元内容平台，其审核体系比其他平台更复杂，审核难度更大，尤其是直播产生的视频流内容，给内容审核提出了更高的挑战。数美科技依托旗下全栈式智能内容识别产品——天净，打造了专门针对直播短视频场景的内容识别功能，从文本、图片、音频、视频中全方位精准识别直播短视频平台中的未成年人镜头以及色情、血腥、违禁、暴恐、炫富拜金等风险内容，将危险内容过滤到未成年人网络世界之外。
除此之外，数美科技直播短视频行业未成年人保护解决方案能够帮助平台实现更精细化的内容管理。在实践过程中，很少有未成年人会主动打开青少年模式的一个重要原因，就是青少年模式内容池不够丰富。短视频的优势就在于个性化推送用户喜欢的内容，然而当前一些短视频平台的青少年模式为了规避内容风险，只是“一刀切”地给未成年用户提供科普、人文等学习类内容，不仅单调，而且也无法满足未成年人正常的精神需求。数美科技依靠多年积淀起来的强大精细的内容标签体系，对平台内容池中的视频进行打标签分类管理，平台可依据数美科技提供的内容标签，为不同年龄段的用户智能推荐适合观看的视频内容，实现规避不良内容风险的同时，也丰富了青少年保护模式下的内容池。
直播短视频平台的未成年人保护之路困难重重，数美科技愿与平台携手，发挥AI技术在未成年人网络保护方面的社会价值，让直播、短视频平台真正成为未成年人看世界的一扇清朗之窗。
