Globe and Mail的报道里描述了一个让人哭笑不得、但后果非常严重的情形:Ashley MacIsaac是加拿大相对有名的Cape Breton苏格兰风格民谣小提琴手,但当用户在Google上搜索他的名字时,系统由AI生成的"快速摘要"在某些时段会把他识别为一名性犯罪者。MacIsaac本人解释,这条错误信息来自大西洋加拿大另一位同名男子的网络新闻——AI把两个人的资料混成了一个。
这件事为什么严重
对一个公开身份的音乐人来说,"性犯罪者"标签出现在搜索结果第一屏,等于职业生涯的破坏。家长不会让孩子参加他的音乐课、节庆活动主办方会担心引来抗议、合作品牌会立刻撇清。哪怕错误后来更正,损害已经发生——最早看到搜索结果的那批人,未必会回头来核对真相。
MacIsaac在加拿大民谣界是几十年的招牌人物,名字这种"硬产品"不是说改就能改的。出现这种乌龙,对他个人来说损失实打实。
AI"幻觉"撞上真实人名
这件事放到大背景里看,其实是过去两年所有AI厂商都在面对的难题:大语言模型"自信地胡说"(hallucination)。模型在训练数据里见过两个名字相似的人,它没有人类那种"等等、这两个会不会是不同的人"的怀疑机制,会把两段相关上下文凑在一起,输出一段读起来非常通顺、其实张冠李戴的摘要。
当被混淆的对象是一个真实的、有声誉的具体人物时,问题就从"模型不准"升级到"诽谤"。这次MacIsaac起诉Google,是为数不多的、由有公众知名度的当事人正面挑战AI平台诽谤责任的诉讼之一。
对加拿大法律和华人读者的意义
加拿大对诽谤的法律标准比美国更严格——原告通常不需要证明被告"明知错误"才能胜诉,只要能证明信息错误且对名誉造成损害即可。这对Google这类把AI摘要直接嵌入搜索结果的公司来说,是一个比美国本土更需要谨慎的市场。
对华人读者来说,这件事也是一个提醒:看到Google上的AI摘要,别当作权威信源。尤其是涉及人名、地名、机构名的时候,多点一下原始来源链接确认一下。AI写得越流畅,越要警惕它流畅地说错。
关于诉讼具体金额、起诉法院、Google的回应、是否会有其他原告加入,请直接看Globe and Mail的原报道。Cape Breton(开普布雷顿岛)位于新斯科舍省东端,是加拿大苏格兰移民传统最浓厚的地区之一。