您现在的位置是:首页 > 业界业界
技术+人文,抖音防网暴管理能力升级
cc博主2022-02-23【业界】463人已围观
文/赵青晖 方查理
“网络暴力”由来已久,在十几年前的PC时代,互联网还没有像如今这样渗透到人们生活的方方面面,关于网络暴力的话题就已经引起了人们的关注与警惕,随着技术的进步,移动互联网时代的到来,近些年“网民”数量急剧攀升,网络暴力的影响范围也越来越大,甚至逐渐黑产化。
防网暴势在必行。
防网暴成抖音下一个持续关注领域
移动互联网为人们生活带来便利的同时,也给网暴黑产造就了温床,社交平台、短视频平台等多个公共网络场所成为了网暴行为的高发地,评论、私信也成为了网络暴力的主要手段,所谓“能力越大,责任越大”,对于网暴乱象,除了舆论呼吁外,各大网络平台也应当承担起帮助用户防止网络暴力的责任。
如在近期火热的冬奥会期间,就有不少人通过网络平台的评论和私信功能对冬奥选手进行诋毁、侮辱攻击、散布不实谣言,对冬奥观赛和社区氛围造成了极大的伤害,前不久,短视频平台抖音就针对冬奥会的情况对331个网暴冬奥选手的账号进行了禁言或封号的处罚处理。
近几年来,作为国内最大短视频平台之一的抖音看上去对“能力越大,责任越大”这句话有极为深刻的理解:过去一年中,抖音的公开课、曲艺、乡村相关视频内容高速增长;也大力推动了老年化适配,有专属的老人专线;此外还做了最用心的青少年模式,雷峰网还曾对世面上视频平台的青少年模式做过横向对比,结果显示抖音各项产品综合最优。
而抖音的另一个长期持续关注的领域,则选在了“防网暴”方面。
正如2018年更新的抖音品牌slogan“记录美好生活”一样,抖音里“每个人既是内容创作者,又是内容消费者”。每天伴随海量的内容创作和消费,也有大量的评论、私信产生。抖音每天会有8亿条评论产生,其中,被处理的视频里,“谩骂,人身攻击”占比32.79%。
这样海量的负面评论内容,如果只是在事后处理,一方面会让平台面临巨大的治理压力,另一方面,对于用户来说,网络暴力行为已经发生,受到的创伤很难得到平复。
所以,抖音在今年1月更新了用户风险提醒、负面内容过滤等系列功能,通过8大功能,成为国内首个在各个场景下提供预防网暴服务的平台。从评论和私信两个维度出发,从主动管理发送者到接收者自我管理,从前期的评论发送警示,到中期的私信分层管理,再到后期平台小助手提供“心情关怀”,打通了预防网暴前中后的整个流程。
雷峰网也针对抖音全新的防网暴功能,进行了全面的评测。
抖音防网暴的评测
雷峰网此次对抖音全新防网暴的功能评测,主要在两方面,一方面是面向创作者的新权限与功能评测,看新的功能是否可以直接为创作者带来更好的体验,另一方面从人文关怀方面出发,探寻抖音是如何尝试从本质上减少网暴行为的。
1、面向创作者的新权限与功能
抖音中最基础的私信对象限定功能,早在2017年12月就已经上线,用户可以设置为所有人/互关好友/关闭三种状态中选择,是最彻底和基础的私信过滤。
但对于“大V”、流量主、商用账号等需要面对大量陌生人、单向关注者的用户,他们无法一刀切地限制私信对象,所以这些特殊人群在此前经常会遇到广告、谩骂、骚扰等问题。
而1月底上线的“用户风险提醒和负向内容过滤”功能,对前述问题进行了很大程度的优化。
用户风险提醒是系统引导用户去管理,对陌生人或单关人消息进行识别,并提供“拉黑/举报/移除粉丝”的弹窗。负向内容过滤是利用了算法自动处理,识别谩骂/骚扰信息后,自动折叠到陌生人垃圾信息中。
根据抖音官方的数据,该功能上线后,日均对25万次会话发出风险提示,日均近9万条消息被列入垃圾信息,日均超过7万用户受益。
而对于评论方面,抖音上线了“谁可以评论”的选项。其默认选择“所有人”,但另外有“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项可选,对新视频和旧视频都可以选择,简单、粗暴、有效。
2、面向内容消费者的人文关怀
抖音里的创作者和消费者是一体两面的。
线上网暴者,很多都是线下的弱势群体,可能是因为抑郁等心理问题才会对他人实施网暴行为,当然,这不是为了给网暴人开脱,而是需要我们关注施暴者部分群体所面临的问题,引导其走向正轨。如果说针对创作者的防网暴功能是“治标”,那抖音针对对违规用户进行引导和帮助,则是在尝试“治本”。
在防网暴升级后,抖音现在会对评论进行模型匹配和校验,发布违规或低质评论之后,会立即收到评论弹窗警示,提示“该评论可能对他人造成负面影响”,给用户一个回心转意的机会。
当然,弹窗可以跳过并继续发布评论,但将不会被其它人看见,此时评论会进入正常审核逻辑,真正的违规评论依然会被处理。
抖音在新的防网暴系统中新增了名为“心情暖宝宝”的平台助手,如果用户多次违规发布私信、评论,算法可以自动匹配触发“心情暖宝宝”,用消息对话尝试缓解用户的抑郁情绪,甚至引导用户去人工求助、线下就诊。
更具体一点来说,用户会收到类似“您好,我们关注到您最近在站内发表的内容,担心您的心理状态。生活虽不完美,但我们仍可疗愈自己,如果您想找个人倾诉,可以在XX时间段选择转人工,小助手很愿意倾听您的心声”之类的文案。此外,用户也可以自主在推荐、搜索、评论等场景减少负面内容推荐。
其实,这不是抖音第一次用算法帮助弱势用户了,在2021年抖音也为上千位有自杀倾向的用户提供过救助,在这一点上,作为国内头部的平台,抖音并没有仅仅利用技术和算法对网暴人群粗暴地进行处理,而是在技术的基础上,增加了更多的人文关怀,尝试从根源处解决问题,这是所有大型网络平台都值得学习的方式。
应对、甚至消除网暴是平台的责任
在移动互联网时代,网络暴力变得更加频发,在网上对他人施暴的成本也越来越低,这些暴力事件对于受害者来说,都是无可磨灭的伤痛,而在某些偶发的舆论事件中,无数施暴者在并不了解内情的情况下,会被情绪引导,参与到大规模的网暴中。
而多年来,关于停止网暴的呼吁有很多,但收效甚微,也就是说,仅仅寄希望于网民提升自我认知和素质来消除网暴,于现阶段是不现实的事情,所以,不论是抖音,还是其他的网络平台,更应该承担起防网暴的重任。
此次抖音升级的防网暴系统就是一个非常不错的标杆案例,在技术上,实现了对无论是视频创作者还是普通用户,都有更好的保护措施。在人文关怀上,更深层次的考虑到施暴者的心理行为可能,从而引导更多人消除戾气,共建良好网络社交环境。
利用技术的方式,从评论和私信入手,对于还未进入网暴阶段的用户进行监督、引导,预防网暴事件的发生,能够更好的缓解平台的治理压力,也能够让受害者免于网暴侵袭,此外,对于已经触犯网暴行为的账号进行严肃处理,建立一个良好的网络生态环境,是未来各个平台都需要去做的事情。
抖音的防网暴升级,一方面体现了作为短视频头部平台的科技能力和责任心,另一方面也为未来其它平台利用技术治理网暴行为做了一个不错的范例。
雷峰网(公众号:雷峰网)原创文章,未经授权禁止转载
Tags:clash节点购买网站
相关文章
- 腾讯云联合信通院发布《超低延时直播白皮书》,推动直播延时降低90%以上
- 阿里又一款APP功能被阉割,旺旺群聊服务2月底将正式关停下线
- 摘下齿科行业的“口罩” 后疫情时代牙科机构如何霸市场?
- 上线即崩!特朗普推出社交APP Truth Social
- 毫米波射频芯片企业华杰智通完成融资,东方富海独家投资数千万
- 腾讯控股市值蒸发2500亿!公关经理张军辟谣腾讯将被“重锤”;微博回应没有裁员,多核心业务仍在招聘;苹果不再开发屏下指纹识别 | 雷峰早报
- 字节跳动加速瘦身,彻底剥离一个大业务:作价2000万全部卖掉海豚股票
- 显卡即将出货,老将从AMD归来,英特尔GPU取经路能否“通关”?
- 易聊科技完成亿元B轮融资,线上获客或成AI客服落地的最佳场景
- 东数西算全面爆火,概念股大面积涨停,阿里、腾讯、字节、快手已大规模部署
猜你喜欢
Science 评论:STEM 领域女性科学家的工资比男性低 15.55%,顶尖学者差距更大
人工智能作者 | 李梅编辑 | 陈彩娴在科学、技术、工程和数学(STEM)领域,女性学者的代表性普遍不足,除了终身教职难拿、在学术生涯中会面临更多挑战等,性别不平等的一个重要形式还体现在薪酬不平等上。学者理所当然应该根据其科研生产力来公平地获得相应报酬,但实际上,男...
阅读更多斯坦福李飞飞团队新研究登 Nature 子刊:实现可信 AI,数据的设计、完善、评估是关键
人工智能作者 | 李梅、王玥编辑 | 陈彩娴在当前 AI 模型的开发以模型为中心转向以数据为中心的趋势下,数据的质量变得尤为重要。在以往的 AI 开发流程中,数据集通常是固定的,开发工作的重点是迭代模型架构或训练过程来提高基准性能。而现在,数据迭代成为重心,因此我们...
阅读更多Apache基金会正式宣布Apache InLong成为顶级项目
业界刚刚获悉,全球最大的开源软件基金会Apache软件基金会正式宣布,Apache InLong成为成功从Apache孵化器毕业成为社区顶级项目,这也是Apache社区首个一站式大数据集成顶级项目。这个最初由腾讯捐献给Apache社区的一站式海量数据集成框架,可以...
阅读更多seo优化之图片优化须知的8个小技巧
站长动态seo优化之图片优化须知的8个小技巧如果你运营在线商城又或是大型电商网站,图片优化是你必须要掌握的。不仅仅是从吸引潜在消费者,还是增加图片搜索流量,又或是提升网站加载速度,图片优化扮演者非常关键的角色。但说到图片优化,很多传统意义上的SEO人会说,图片要加...
阅读更多什么叫性功能障碍?性功能障碍的具体病因是什么?
健康问答患有性功能障碍的人常会出现性生活缺乏高潮或有勃起困难等情况。这类疾病多和身体的心理和精神有关。一旦出现性功能障碍,则需要及时进行治疗。造成性功能障碍者多数会因为健康不佳所致,导致性欲望的降低,也会因为心理的创伤而造成性功能障碍的情况。在生活当中,性生活也十...
阅读更多