南华早报(SCMP)报道,中国最高人民法院近期发布了新的司法解释,把人工智能相关案件的裁量标准写清楚了。这次的重点有两个——深度伪造(deepfake)和个人数据隐私。这也是最高法首次系统性地对AI技术划出司法层面的边界。
过去几年,中国在监管层面已经陆续出台了《生成式人工智能服务管理暂行办法》《深度合成规定》等一系列部门规章。但这一次不同:最高法的司法解释,直接决定各地法院怎么判具体案子。从"部门监管"到"司法可执行",是关键的一步。
深度伪造红线在哪
深度伪造,就是用AI技术把某个人的脸、声音、动作合成到本来不属于他的视频或音频里。过去两年,这类工具在全球都在被滥用——从假冒名人代言、假新闻,到诈骗电话里模仿家人的声音。
SCMP 报道的新规明确把未经同意合成他人肖像、声音的行为纳入侵权,并对平台的审核义务提出更明确的要求。也就是说,当事人可以直接以侵权起诉,法院有依据判赔。
具体的判决门槛、赔偿计算方式、平台责任的边界,详细条文请以SCMP原文和最高法官方公告为准。本地小编不给读者编具体数字。
隐私新规怎么落地
另一大块是数据隐私。AI模型的训练需要海量数据,其中很多来自用户在互联网上留下的痕迹——头像、评论、朋友圈图片、语音笔记。这些数据到底能不能被拿去训练模型,一直是灰色地带。
新的司法解释开始对这块灰色地带做切割:把"未经充分告知同意的数据收集和使用"纳入司法救济范围。这意味着普通用户如果发现自己的数据被拿去训练模型,理论上可以起诉。
对国内的大模型公司来说,这是又一层合规成本——除了监管部门备案、内容过滤,还要为训练数据来源留下可追溯的证据链。
对普通人和科技公司的影响
对普通网民来说,最直观的一点是——下一次遇到疑似深度伪造视频,或者发现自己的照片被用在不明产品的广告里,起诉这件事变得更可操作。至少法律路径打通了。
对科技公司来说,压力主要在两个地方:一是短视频和社交平台要加大合成内容的识别和标注投入;二是大模型开发商要重新审视训练数据来源。已经有分析师认为,这会推高一线大模型公司的合规成本。
海外华人视角
在温哥华的华人朋友,尤其是有做跨境电商、直播带货、内容出海的读者,其实很关心中国这边的AI规则怎么走。中国和欧盟目前是全球AI立法走在前面的两个法域,美国相对滞后。这次司法解释出来之后,未来做涉及中国用户的AI产品,风险边界更清楚了——不是坏事,但要跟上。
另外一层意味是,这套规则也让人联想到自己在国内的家人。老家的父母如果接到疑似AI合成的诈骗电话,未来举证会容易一些——这一年AI换脸诈骗在国内已经出现好几起大案。
完整条文和最高法的官方通稿,请以SCMP原文和后续官方公告为准。