守护儿童的网络内容安全，AI能做些什么？

守护儿童的网络内容安全，AI能做些什么？

守护儿童数字生活的内容健康有多紧迫？

• 出生的越晚，上网的时间就越早。目前已经有17.5亿14岁以下的互联网用户。

• 2019年，46%的儿童遭遇过各种网络安全事件。

• 不良体验主要是由于内容不当，如色情、血腥、暴力等。

——数据来源CNNIC（中国互联网信息中心）

如何让数字化技术参与到儿童安全的守护过程中逐渐成为社会各界重点关注的方向之一。在今天举办的第十六届联合国互联网治理论坛（IGF）——《人工智能为儿童——面向儿童群体的人工智能应用调研报告》发布活动中，来自联合国儿童基金会、中国网络社会组织联合会 、中国传媒体大学、腾讯安全等组织机构的代表分享了AI For Children的最新实践与成果。

（图为发布活动现场）

秉承腾讯“科技向善”的使命愿景，腾讯基于腾讯安全天御内容风控能力、腾讯优图的AI内容审核能力，在2020年启动了Guard for Children项目，通过海量训练得到的AI识别能力，能够精准识别侵害儿童的隐私内容、过滤出不良传播内容，包括儿童色情、校园暴力、青少年犯罪、烟赌毒等内容，净化儿童的上网环境。具体而言，Guard for Children项目从三个方面展开工作：

（图为腾讯安全产品总监王翔演讲）

公开课

通过公开课的形式对家长和儿童进行安全教育，腾讯推出了一系列关于如何认识网络空间和如何应对网络欺凌的公共教育课程，帮助儿童变得坚强和心智成熟，并为其提供网络帮助。

定制推荐

与教育局展开合作，为14岁以下儿童设计、定制视频和音频，使用人工智能进行智能组合推荐。

内容安全

通过人工智能检测，减少不适合儿童观看的内容呈现，例如色情、欺凌、不良行为、不良ACG等。

目前，腾讯安全天御风控已为1500+家平台提供内容安全服务，共计审核图片总量已突破3000亿条，累计拦截不良内容超5亿条，助力多家企业建立完善长效的涉青少年网络内容治理机制。

去年12月，腾讯还联合联合国儿童基金会等三大公益组织发起了腾讯Light·公益创新挑战赛，邀请开发者和公益界的有志之士，根据“未成年人网络保护”等主题，利用腾讯云AI提供的人工智能技术打造公益小程序，以科技之力守护未成年人健康成长。大赛共吸引了663支队伍近3000名选手参赛，经过四个多月激烈的角逐，24支团队成功入围决赛，涌现了一批用技术和创意让AI落地公益场景的优秀项目，为提升效率、解决社会痛点等方面带来科技力量。

IGF是联合国框架下关于互联网治理问题的开放性论坛，旨在促进全球各方在互联网公共政策方面的讨论和对话，把握全球互联网治理重要机遇，本届论坛聚焦经济社会、市场监管、环境等问题。发布活动由中国网络社会组织联合会、中国传媒大学、联合国儿童基金会共同举办，向全球展示中国在面向儿童群体的人工智能领域所取得的成就，加强国际交流合作，进一步从人工智能的角度探讨经济和社会的平等与包容，探索构建有意义的人工智能为儿童国际通用标准。