主页 > 娱乐 >

在线娱乐大爆发,怎样让网络空间更安全健康?

2020-12-08 13:07 来源:中国资讯报道网
  2020年初,突如其来的疫情打乱了无数人的假期规划,一时间国内外的旅行变成了奢望,旅游业、网吧业、体育赛事、线下也因此受到影响。
  无独有偶,疫情之下的线下实景娱乐虽难以开展,但用户的娱乐需求仍需满足,游戏、线上影视剧、直播及短视频为首的娱乐内容产业获得了发展良机。
  在这次线上娱乐大发展的过程中,内容健康再次被监管部门和网络大众所关注。如何更好地打击网络“黑产”、维护网民权益和未成年人的上网安全,成为了产业讨论的热门话题之一。
  在线娱乐大爆发,网络环境治理面临新挑战
  截至今年6月,中国的网民数量已达9.4亿,过去五年,这一数字增长了22%。
  2020年上半年中国网民规模和互联网普及率(图片来源:GNNIC)
  移动互联网的普及,早已使得网民在不同平台上拥有了属于自己的“虚拟身份”。基于虚拟身份的网络社交提升了用户间的交流效率、拉近了陌生人之间的距离,但也带来了网络诈骗、内容违规、涉黄涉暴等一系列问题——这些问题大多和网络黑灰产息息相关,也因此平日隐蔽在各个网络空间角落。
  监管部门针对互联网安全相关的法律法规和监管政策也在不断完善,越来越多的网络黑产得到了法律的制裁,数百款涉嫌违法违规的平台也因此被处罚甚至封禁。线上娱乐的爆发,让这些平时隐蔽的黑灰产借机进一步“扩张”。网络环境治理面临新挑战。
  2020年7月,国家网信办宣布启动“清朗”未成年人暑期网络专项整治行动。除了内容以及价值观扭曲的影视剧和UGC音视频作品,黑灰产依附较多的游戏、社交类App违规内容也是本次整治行动的重点。
  除了网民举报和监管部门管理以外,平台也意识到内容自查自审的重要性——互联网违法违规行为不断变化升级,只有通过技术及运营的不断投入,构筑内容安全壁垒才能有效抵抗违规行为对平台的侵蚀,而有效甄别并抵制违法违规行为,才能够确保平台的安全和健康。
  电竞游戏作为国家新经济产业的重要组成部分,也从无到有孵化出不少明星企业,在2020年线上娱乐大爆发的阶段备受关注。
  以线上电竞陪练行业的头部平台比心陪练为例,其用户数量已达5000万,并为全国超过600万电竞陪练师创造了就业机会。根据比心陪练统计数据显示,仅在2020年一季度,平台新增陪练大神即超过102万人。截至目前,已有接近150万人在比心陪练平台通过游戏技能分享赚取收入。根据平台官方公布的数据显示,2019年全职电竞陪练月收入约为7857元,兼职电竞陪练月收入约为2929元。
  电竞游戏陪练的价值已逐渐被社会所认可并广受欢迎,但当用户规模达到一定体量之后,由于电竞游戏带有天然的社交属性,也同样面临内容安全治理的新挑战。
  在不久前落幕的《2020音视频直播行业绿色内容生态共建峰会》上,南方都市报大数据研究院网络内容生态治理研究中心发布的《网络音频社交“软色情”侵害风险研究报告》显示:多元参与、协同共治,是网络内容生态建设的趋势——这其中,平台企业的主动担当和参与尤为重要。
  已经有不少在线娱乐平台走在了前面,并联手用户、监管部门、第三方探索多方共治、维护网络安全空间。
  “我们在走访行业时发现,用户往往是违规内容的第一发现人,有接近三成的违规内容来自用户的举报。所以发动用户、共同守护网络空间的平安健康,至关重要。比心也在鼓励用户参与平台治理方面做了很多举措。”比心陪练相关负责人介绍,为了鼓励平台用户积极参与平台内容生态治理,比心陪练对违规信息举报体系推出了多项新举措:一方面浅化举报入口,方便用户举报,在线客服也可代替用户直接发起举报行为;二是运用AI算法能力使系统能够自动生成举报,例如当前针对涉黄用户,每日会自主挖掘相关违规行为,每天超过400条涉黄内容被主动拦截打击。“同时比心还推出用户举报激励体系。针对用户对违规信息举报行为,设置激励机制,根据被采纳情况给予相应的奖励,每个用户单日奖励最高可达1000元。已经有不少用户获得了违规内容举报奖励。”上述比心陪练相关负责人透露。
  除了鼓励用户参与平台治理、积极配合监管举措,作为国内用户体量最大的电竞社区,比心陪练在平台内容安全机制化建设方面做了很多有效探索。“比心陪练现在用户已经有5000万了,这样大用户体量的网络社区,对平台自我治理能力提出非常高的要求。”上述比心相关负责人介绍道,比心陪练平台的安全业务和生态治理从最初的一个人、一套系统,到如今实时风控平台、离线风控平台、内容审核平台、资金安全平台、举报处理平台、用户申诉平台组成的“六大平台”,而且与业务快速发展同步,逐年加大风控审核维度的技术、资金和人力成本的投入。
  值得注意的是,互联网平台违规内容衍生裂变形式越来越多样化,形式隐晦难以捕捉拦截,部分场景下更是出现黑灰产有组织化的运作,通过不断揣摩平台现有的风控策略尺度和特征,想办法绕路,也对平台的技术提出了更高挑战。
  上述比心陪练负责人介绍,为了应对平台安全新挑战,公司已经引入数美科技等风控技术顶尖的第三方,进行资源和技术互补、共建风控策略和安全池。
  “平台在内容方面的自查自审非常关键。”上述负责人表示,为了加强内容安全建设,比心在内容审核维度强力推行人机结合的策略——机器负责捕捉和拦截常规的敏感内容,人工审核团队负责筛选类似于符号代称等变体组成的违规内容,并配置超过300人的人工审核团队,设置“初审、复审、质检、终审”多道屏障,过滤拦截涉黄涉暴等违规内容。
  在今年8月进行的自查自审行动中,比心陪练曾对风控系统监管级别进行了升级,通过使用“基于社区联通图的团伙挖掘技术”,以及调配日常3倍以上的审核人力,对历史内容进行了全面回查。同时,比心陪练还加大了全平台内容监管的尺度和惩罚的力度,以彻底清理拦截违规有害内容,净化内容生态环境。
  比心陪练相关负责人表示,公司创立至今已超过六年,业务快速发展的同时,在风控审核维度投入的资金成本和人力成本也在逐年增加。目前,公司风控、审核团队人员规模超过400人,日均处理数据量可以达到60万以上、月均达到2000万条以上。
  上述负责人表示“我们去年包括AI技术研发合作、第三方风控系统接入、及风控审核团队的人力成本投入达到数亿元,公司在未来会继续加大这方面的投入”。
责任编辑:资讯报道
网站首页 我要评论 分享文章 回到顶部