文章内容

华中农业大学 - 《华中农业大学校报》

随 笔

换脸 AI 的骗局

作者:机械类  2209  班  陈美霖    
2024-01-15     浏览(58)     (0)

文章讨论了AI换脸技术的侵权行为及其维权困境,指出个人信息安全保护的重要性,提醒公众要保护自己的信息,避免随意上传照片和点击不明链接。文章强调科技的发展是为了更好地服务人类,而不是成为犯罪的工具。


拿起手机刷脸解锁、验证信息、支付订单。刷脸,仿佛已经成为我们生活中不可缺少的一步。目前大部分网站和 APP 都会设置注册门槛,要求用户填写各种个人信息后才能进入网站或 APP。清华大学新闻学院教授沈阳曾表示,中国人平均每天要暴露在各种摄像头下超过 500 次。实际上,不法分子只需要一张静态半身照,就可通过技术将人物依照输入的指令做出眨眼、张嘴、皱眉等动作,模仿人物表情变化,骗取人脸识别的“信任”。

AI 换脸诈骗便从中滋生。“人有两颗心,一颗是贪心,一颗是不甘心”2020 年过年前后,虞某第一次从互联网上接触到 AI 换脸技术并对其非常感兴趣。随后,便从网上下载了换脸软件并熟练掌握了相关视频合成的技术。在使用这项技术时,虞某发现了其中的“商机”:制作和生成虚假的换脸淫秽视频,在未取得被编辑人同意的情况下,在网络社交软件上进行传播,以此吸引关注,谋取利益。擅自使用他人人脸信息,制作换脸视频,不仅会侵犯他人的私益,还可能侵害公共信息安全,危害社会公共利益。今年6 月,浙江省杭州市萧山区检察院对利用“AI换脸”技术侵犯公民个人信息依法提出了民事诉讼。杭州互联网法院经过审理后依法对该案作出判决,判被告虞某立即停止侵权,删除其在社交软件群组中留存的所有涉案个人信息;在国家级媒体上刊发向社会公众赔礼道歉的声明,以消除影响、进行警示并支付侵害社会公共利益的损害赔偿款 6 万元。8 月22 日,这一判决正式生效。

侵权易,维权难。近年来,滥用 AI 换脸技术实施各类侵犯个人信息的行为并不鲜见。但在以往的司法实践中,关于公民个人提起的保护个人信息之诉讼少之又少,其中维权成本高、专业性强、举证困难是主要原因。并且如何证明人脸信息侵权事实的存在,可能需要对信息处理者、处理方式、信息获取、信息处理加工是否违法等进行举证,而上述证据普通的公众很难仅凭自身力量完成初步举证,即便是司法机关,在调查取证的过程中也需要耗费大量的时间与精力。而公民个人遇到该情况往往会基于无奈,放弃以诉讼方式维权。

技术本身是中立无害的,只是技术中立并不意味着价值中立。技术的运用是把双刃剑,用之为善可以造福社会,运用不当则会造成难以想象的危害。个人信息一旦被过度收集、泄露和非法利用,造成的危害难以估量。我们或多或少都有些体会。不堪其扰的推销电话、未经同意的数据收集、精准实施的网络诈骗等。诈骗离我们并不遥远,我们在刷脸频繁的时代,个人信息外泄严重的时代,更要注重对自己信息的保护,不要随意将照片上传到不安全的网站或 APP 上,对莫名的链接保持警惕,较大金额的转账三思而后行。

我们需要清晰认识到:科技的发展是为了更好地服务人类,而不是成为犯罪的工具。