案例五：处罚措施合理性与必要性的判断
本案原告是抖音用户，被告是抖音平台经营主体微播视界：
- 2021年10月26日，平台永久封禁原告抖音账号，理由是“涉嫌违反社区公约，涉及过度关注或浏览未成年相关内容的行为”；
封禁记录显示内容是2021年10月26日“D-护童专项审核”，ban_user:封禁，ban_tag:过度消费未成年视频。
- 2021年10月27日，原告的手机设备被抖音平台封禁，此后原告无法使用该手机设备注册、登录及使用抖音平台；
- 原告曾提交申诉但申诉失败，后以网络服务合同纠纷案由提起诉讼，请求法院判令被告解除对原告抖音账号的永久封禁措施、解除对原告手机设备的永久封禁措施、赔偿维权合理支出及精神损失相关费用1000元。
原告认为被告对其进行处罚的原因以及具体措施都极其不合理，属于系统误判，无故封禁其账号及对应手机设备的行为构成违约。
被告不同意原告全部诉讼请求，主张自己处罚有依据且措施合理：
- 原告存在“过度消费未成年人”行为，具体表现为：
原告账号关注大量以未成年少女为主要内容的视频账号，点赞未成年少女内容视频，发布大量擦边球评论，多次在涉及未成年视频的账号之下发布色情违规评论，还曾上传未成年少女视频，以上行为属于过度消费未成年人的违规行为。
- 上述行为严重违反双方协议约定，即严重违反《“抖音”用户服务协议》《“抖音”网络社区自律公约》《“抖音”未成年人内容管理规范》的相关规定，抖音平台对其进行性封禁合理有据；
- 抖音平台采取的封禁措施亦具有合理性，具体来说：
1）国家十分重视未成年人的保护工作，各大平台均响应国家法规政策要求，建立严格的未成年人保护和相关审核体系，涉案账号违规行为，严重违背国家保护未成年人的相关政策法规，抖音平台“护童专项”对涉案账号进行封禁，合理合法、十分必要。
2）同时，被告提供了畅通的申诉渠道，然而涉案账号自2021年3月开始，已经被多次处罚，并多次强制其学习社区规则，但涉案账号依然存在违规行为，被告对其处以永久封禁合情合理。
被告提交的证据显示：
- 原告账号的关注人列表中包含大量以未成年少女为主要视频内容的账号、所占比例过高；
法院认为被告提交的账号点赞记录也能佐证这一点——涉案账号在被封禁前的一段时间内，曾经点赞了大量未成年女生的视频，其中包含许多未成年少女身着舞蹈服，进行掰腿、下腰等练功动作的视频；账户“喜欢页”绝大多数点赞为包含未成年女生内容视频，所占比例过高。
- 原告账号在2017年10月31日至2021年9月21日期间，曾在多个涉及未成年人视频下方发布评论：
1）部分评论如下：“爱你一点点[色]”“爱你两点点”“我想请你喝酸奶，就是管子比较粗。”“真羡慕那些把隧道加宽的工程师；更羡慕第一次打穿隧道的施工员。”“亲家你好！闺女长的真俊，定娃娃亲吗？你未来女婿两套别墅，几十套房子收租，以后都归她们的，如果不喜欢老人，我们可以早点死。”
2）部分评论含有“[奸笑]”“[胡瓜]”“[舔屏]”等含有色情意味的表情。
- 被告账号在被永久封禁前，分别在2021年3月、5月、6月被处罚，处罚原因是“系统检测到该账户因存在过度关注或浏览未成年相关内容的行为”。
原告则主张自己只是喜欢舞蹈相关的内容，并无过度浏览未成年相关内容的行为，点赞相关视频也属于正常行为，且相关视频全部来自于系统推荐，被告以此为由封禁账号及手机设备极不合理且构成违约：
2021年10月27日原告向被告客服反馈称：“无辜被永久封禁账号及设备，家里有侄女学习舞蹈，小姑娘爱在线学习舞蹈，并无过度浏览未成年相关内容行为，全部推送来自于系统推荐，已经通过12315、黑猫投诉平台进行维权设备无法使用抖音app问题及抖音号105955743被永久封禁问题，后续保留依法向人民法院起诉抖音平台的霸王条款无辜封号权利。”
本案争议焦点在于：被告认定原告账户存在“涉嫌违反社区公约，涉及过度关注或浏览未成年相关内容的行为”并对涉案账户及手机设备采取封禁措施是否合法、是否符合合同约定。法院通过对处罚行为的规则依据、违规行为识别逻辑、事实依据进行审查，最终判定被告处罚有依据且措施合理，不构成违约，驳回原告全部诉讼请求。
- 在原告账户是否存在“违反社区公约，涉及过度关注或浏览未成年相关内容的行为”认定问题上，法院首先对原被告之间的合同效力问题进行分析，认定双方之间成立合法有效的合同关系，均应依约行使权利、履行义务，并明确“过度关注和浏览未成年人相关内容”相关界定规则：
1）原告在注册成为抖音平台会员时，与被告签订《“抖音”用户服务协议》，系双方真实意思表示，合法有效；
2）根据协议约定，《“抖音”社区自律公约》及“抖音”其他功能的相关协议作为服务合同的补充内容，与服务合同具有同等法律效力；
3）上述协议、规范中相关条款不违反国家法律禁止性规定，亦不存在格式条款提供方明显免除己方责任、加重对方责任、排除对方主要权利的内容，当属合法有效。原告在注册用户时已明知协议内容并明确表示同意。双方当事人均应依约行使权利、履行义务。
- 法院认为，在平台明确规定“过度关注和浏览未成年人”相关规则且该等规则合法有效的情况下，被告具有认定“违反社区公约，涉及过度关注或浏览未成年相关内容的行为”并依约予以处罚的权利，案涉处罚行为的规则依据如下：
1）“抖音安全中心-什么是过度关注和浏览未成年人”视频内容中介绍相关行为包括“活跃在未成年人视频的评论区，频繁发布低俗色情言论，表达对孩子的喜欢但是言语挑逗”等——抖音安全中心的视频内容在平台公开发布供所有用户观看和知晓；
2）《“抖音”社区自律公约》中亦明确规定，禁止任何损害未成年人身心健康和合法权益的行为和内容，包括涉及未成年人色情低俗的内容、涉及过度消费未成年人的内容、禁止传播不良价值观的行为，包括传播软色情、低俗或含有性暗示、性挑逗等易使人产生性联想的内容，展示庸俗、媚俗、低级趣味、粗俗文化等。
- 法院对平台处罚用户是否有事实依据进行审查，判定平台认定用户违规具有事实依据。
事实依据方面，本案中平台判定用户违规的流程如下：
- 原告在多个涉及未成年人视频下方发布大量含有“言语挑逗”、“低级趣味、粗俗文化”等内容的评论，如“爱你一点点[色]”“爱你两点点”“我想请你喝酸奶，就是管子比较粗。”“真羡慕那些把隧道加宽的工程师；更羡慕第一次打穿隧道的施工员。”“亲家你好！闺女长的真俊，定娃娃亲吗？你未来女婿两套别墅，几十套房子收租，以后都归她们的，如果不喜欢老人，我们可以早点死。”以及部分含有“[奸笑]”“[胡瓜]”“[舔屏]”等含有色情意味的表情。
- 平台「模型识别」系统判定原告为涉及护童专项的风险用户，激活人工审核流程；
- 人工审核后，判定原告账户存在涉及过度关注或浏览未成年相关内容的行为，违反社区自律公约。
法院认为平台依据大数据分析作出的判定结论可以作为事实依据，因为：
- 用户的网页浏览、关注、点赞以及评论等信息通过抖音平台网络系统产生，相关数据经由平台系统自动获取、留存；
- 平台通过系统「模型识别」过滤功能筛查，依据算法等技术手段对用户行为做出判定，继而作出相应的管理或违约处理，是其经营管理的基本特征，用户在与被告订立服务合同时也已知晓；
- 因此，用户应当自觉接受平台对用户行为数据的监管，并认可平台依据大数据分析认定违规的逻辑与标准。
在明确平台有对原告进行处罚的合同依据以及事实依据后，法院进一步对处罚措施是否合法、是否符合合同约定进行审查：
- 首先查明平台处罚措施相关依据是什么：
《“抖音”用户服务协议》第7.1条规定，“针对您违反本协议或其他服务条款的行为，公司有权独立判断并视情况采取……限制帐号部分或者全部功能直至终止提供服务、永久关闭账号等措施”。
在已经判定该等约定合法有效的基础上，被告可以依据不同用户账号涉及的风险类型采取不同的处罚方式。
- 然后结合本案具体案情进行分析，最后判断平台对吴某采取的封禁措施并未超出必要限度，且有利于未成年人合法权益和身心健康保护：
1）原告涉案账号在2021年10月26日被“永久封禁”之前，曾经在2021年3月17日、2021年5月30日和2021年6月4日累计三次因“系统检测到该账户因存在过度关注或浏览未成年相关内容的行为”违反社区规定被抖音平台处罚。后经平台对其多次教育整改，但涉案账号解封后仍继续在涉未成年人视频下方发布大量“低级趣味、粗俗文化”评论，违约情形较为严重。因此，可以认定平台对吴某采取终止提供服务、永久关闭账号的封禁措施未超出必要限度。
2）平台表示对吴某采取“账号永久封禁”及“设备永久封禁”的处罚，其目的是防止原告更换账号后继续实施对未成年人网络环境的侵害。二审法院认为，未成年人群体是整个公民群体中相对成年人而言的弱势群体和特殊群体，对其权利的侵害存在易发、隐蔽、救济困难等特征，故民法典、未成年人保护法等法律均对未成年人给予特别关注与保护，坚持最有利于未成年保护原则。被告上述封禁措施有利于维护未成年人“清朗”网络环境，更好地保护未成年人的合法权益和身心健康。
综上，法院判定平台根据双方协议约定，认定吴某涉案账户存在“违反社区公约，涉及过度关注或浏览未成年相关内容的行为”，采取“账号永久封禁”及“设备永久封禁”行为，符合双方协议约定，不构成违约。原告的诉讼请求没有事实和法律依据，不予支持。
微软和Open AI因为数据获取问题被发起集体诉讼，明天看看大概情况，下周再继续看平台算法问题。
参考：2023年1月28日北京互联网法院（2021）京0491民初44935号