快手大整改：上线家长控制模式，封禁5.6万名用户

　　导读：这段时间以来，快手全员都处于异常忙碌的状态，有内部员工表示，他们忙到一周都没怎么睡觉，宿华在致歉信中提到的“完善社区运行规则”“建立未成年人保护体系”“打击和清除低俗色情内容”等，也全都在一一对照改进落实。

　　距离国家广播电视总局下发严肃处理“快手”“今日头条”的通报，已经过去了十日。

　　这期间，“快手”在安卓应用商店暂时下架；“内涵段子”永久关停；火山小视频、西瓜视频整改升级。

　　短视频行业持续震动。快手CEO宿华发出致歉信，向公众承认错误，并宣布整改。这封致歉信被知名科技评论作者keso评论为“诚恳到宿华这样的道歉，真的没见过”。

　　但光有道歉是不够的，“低俗”视频怎么处理、未成年人如何保护、内容审核怎么人机结合、价值观怎么把握，快手面临大考。

　　据悉，在快手内部，已经达成共识，就是媒体和监管部门提出的问题确实存在，而且正如宿华在致歉信中写的“是长久以来我们一直没能重视的问题”，快手上下也发自内心觉得需要做一番彻底的反思和整改。

　　所以，这段时间以来，快手全员都处于异常忙碌的状态，有内部员工表示，他们忙到一周都没怎么睡觉，宿华在致歉信中提到的“完善社区运行规则”“建立未成年人保护体系”“打击和清除低俗色情内容”等，也全都在一一对照改进落实。

　　从快手内部来说，也期待通过这次整改，优化和提升社区品质，撕掉low和低俗的标签，重塑形象。

　　为什么“先审后发”还是出现了问题？

　　快手的内容审核压力，并不是十天前才开始有的。

　　2018年春节期间快手用户单日上传视频数量突破1500万条，每分钟上传视频的峰值达到43000条，创历史新高。

　　这意味着快手原本的2000名内容审核员，要在机器的配合之下，对每天1500万条视频内容进行审核。当时快手对媒体表示：快手的内容评级团队和产品技术团队放弃了与家人团聚的机会，只为确保春节期间包括内容审核在内的用户体验“不缺位”。

　　从节后的效果来看，某些时候，内容审核“缺位”了。央视在节目中指出，快手太负面，热捧早孕网红，直播私奔。

　　按照快手方面的介绍，快手所有视频都能做到先审后发。针对每条用户上传视频，快手都会采用“四审三查”机制。四审包括上传前预审、入库前一审、发布前二审、发布中三审。第一次审核依靠来自机器的信息安全体系做判断，第二次审核就开始引入人工。

　　除此之外还有三查，即全程官方巡查、全程用户监督、内外监控体系。

　　全程官方巡查，指有专职全天候巡逻人员团队，查缺补漏；全程用户监督，建立了一套快捷高效的用户与其他渠道投诉举报体系；内外监控体系，有内外两套独立监察体系，互相监督。

　　但为什么百分之百的“先审后发”还是出现了问题？

　　有视频平台内容审核员告知，一般来说人工审核采用的方式是切帧，但现在的很多视频的制作技巧比较新，比如只有几个违规画面短暂露出，审核难度较大。

　　还有一个问题在于：如果未成年妈妈在平台上成为一个现象，那么这与平台的审核能力无关，反而与平台的审核原则有关，这也是快手此次整改的一个主要方向。

　　在快手，机器的审核能力也是经过训练的：在以数千万人工时计的案例判断的基础上，辅以深度学习智能识别技术，并凭借大量数据与长期实践累积，建立了一套信息审核规则体系。

　　这套体系将历史上已经完成判定的违规内容与判定标准明确的内容，先行过滤，色情暴力等违法违规内容不得上传。

　　但社会道德问题在更新、变化。

　　“涉及到社会道德、公序良俗的内容判定，是短视频行业共同面临的难题。就快手来说，如果已经有人工进行判定的判例，机器会进行处理；如果是比较新的状况，则需要人工先判定，然后再做处理。”快手内部人士告诉刺猬公社（ID：ciweigongshe）。

　　该人士还公开了一组数据，截止目前快手已经清理问题短视频31万条，封禁5.6万名用户，清理6.5万个用户名。

　　快手也宣布，将在原有2000名专职审核人员的基础上，招聘3000名本科学历并有较强政治敏感度与鉴别能力的审核员，落实共青团员和党员优先政策，提供高于同行薪资，加快建立一支政治坚定、业务精湛的工作队伍，所有审核员都会在进经过专业培训后上岗。

　　算法的价值观和流量如何均衡？

　　算法有没有价值观？

　　人民日报法人微博对今日头条的严厉批评认为：如果一味追求爆款，却不拆除引发危机的“爆破点”；如果贪图飙车式发展，却无视“刹车”功能失灵；如果只要价值，不要价值观，甚至鼓吹“算法没有价值观”，就难免出事。产品不能沦为算法的奴隶。

　　宿华也在致歉信里说：“社区运行用到的算法是有价值观的，因为算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。”

　　他在致歉信中为正确的价值观划了一个标准：

　　1.只有符合国家法律法规、遵循社会公序良俗的作品，才能进行算法推荐。

　　2.所有的算法规则，必须服从健康积极、阳光向上的价值观。

　　3.改进算法，优先推荐个性化的更符合用户兴趣的正能量作品，放大优秀作品的影响力、感染力。

　　有使用快手习惯的用户可能会发现，整改后，快手的发现页面推荐内容短时间内变化较大。主流媒体的声音被放大。

　　快手方面统计，在坚持社会主义核心价值观指导算法，放大优秀作品的影响力、感染力，热门页面下线整改期间，平台精心筛选正能量视频共得到逾170亿次曝光，获得超31亿次播放、6900万次双击喜欢、9500万条评论、3400万次分享。

　　但不管是“正能量视频”还是“主流媒体的声音”，实际上都是放大了人工编辑在推送中的干预作用。这和算法推荐的逻辑，是相反的，习惯于快手百分之百算法推荐的用户，可能会在短时间内感受到很大的不同。

　　快手方面对刺猬公社解释称，此次调整后，用户使用快手的过程中，仍然会收到自己感兴趣的内容，但发现页正能量的视频会有所增加。

　　另外，快手在保证视频内容符合社会主义核心价值观的前提下，会按照个人兴趣以及拓展个人兴趣边界来推荐视频内容，帮助用户发现更广阔的世界，避免信息茧房。

　　快手方面还表示，会尊重用户的正常表达权，在保证视频内容符合社会主义核心价值观的前提下，会把用户体验放在首位。

　　如何保护平台上的未成年用户？

　　在快手的用户群中，有一类是特殊的——未成年人。

　　此前，中央电视台曝光快手和火山小视频推未成年妈妈视频，也成了整顿的导火索，舆论认为，快手和火山小视频等短视频平台上未成年人的“出格”行为，可能会对更多的未成年人形成示范效应。

　　宿华在致歉信中已经明确提出，要建立未成年人保护体系，对视频进行分级，对于未成年用户可能看到的视频，进行严格过滤，严禁未满18岁用户开通直播权限。

　　具体措施包括，4月12日起，快手上线“家长控制模式”，家长可通过密码一键开启/关闭“儿童锁”功能，过滤不适宜未成年观看的内容，并关闭开启直播、直播打赏、查找、同城、钱包等功能，从4月13日起，发现页未成年过滤内容池正式上线，该模式将持续进行迭代更新。

　，家长可以通过设置密码，选择开启“家长控制模式”，和未开启模式相比，页面发生了较大变化，首页同城入口消失，“八卦”“消息”“私信”“查找”等功能均无法使用。

　　如果是在“家长控制模式”之下使用快手，平台吸引力至少损失三分之一。

　　一方面无法主动搜索关注熟人，私信入口被隐藏，除了已经互相关注的朋友，几乎不能再进行定向的社交拓展；另一方面，“消息”功能消失，也就意味着未成年人发送到平台上的视频，缺乏了一个获得点赞提示的窗口，对激发用户的创作能力有较大的影响。

　　对快手来说，这次整顿其实是价值观的重构。平台的内容审核其实是存在容错率的，不可能所有违规视频都能逃过审核者的眼睛，应该说，所有的平台都存在这个问题。

　　只是在视频发出来以后，平台可以自查，也可以收到来自用户的举报信息，遗漏视频很容易得到处理，并不会引起太大的水花。

　　但显然，这次整顿前夕，舆论攻击的大多数视频，在快手等平台上都不是个例，这是审核原则的漏洞，体现出的是平台的价值观。

　　从这个层面上来看，快手想通过这次整顿，改变外界形象，确实是个还不错的机会。