1月7日9时5分,西藏定日县发生6.8级地震,灾情牵动人心。与此同时,社交平台上一个戴帽子的小孩被压在倒塌建筑物下的图片受到关注,在多个平台账号发布,并被网友猜测与引导和本次地震相关联,引发网友关注和转发。但据媒体报道,经查证,上述图片由AI创作,原始作者在2024年11月18日发布了相同画面的短视频,并声明是AI生成。这次的“乌龙新闻”事件发人深省,故笔者认为:AI生成假乱真,辨别能力需提升。
当下,AI生成技术的迅猛发展与数字化内涵、科技化时代密不可分。科学技术的不断突破,深度学习算法的不断优化,社会现代化的不断发展,内容创作产业对效率和创意的需求激增,AI生成技术应运而生,并被广泛运用。
AI生成技术的出现既是机遇也是挑战。以这次的“乌龙新闻”事件为例,即便有作者的标注与平台的正向引导,人们依旧把“困于灾难的小孩”图像与西藏地震联系在一起,这便是给社会敲响了警钟:AI生成技术足以假乱真!这样的例子层出不穷:四川广元的杨某某为获取流量牟利,利用AI软件编造“山体滑坡致8人遇难”的网络谣言,搜集网络相关信息后发布,造成不良社会影响;湖南长沙一家传媒公司利用AI工具“洗稿”生成“大妈摆摊卖水果被罚16万”的假新闻,通过寻找网上高热度文章,修改内容并配上耸人听闻的标题来博取点击率,以实现流量变现。反向利用“AI”生成技术存在多方面的危害,比如制造社会恐慌、扰乱舆论环境、影响社会和谐等等。在“有心人”的利用下可以实施诈骗、侵犯他人隐私和名誉,给当事人带来精神伤害和生活困扰。
利弊共生。AI生成技术虽然是传播误导信息的桥梁,但也是产业创新、行业破冰的“鲁班锁”。它在图像领域能快速生成各类风格画作,例如艺术创作、概念设计图等;还能用于图像修复、超分辨率重建,让模糊老旧图像变得清晰完整,为文物修复赋能,为产业化发展凝心铸魂。在视频领域还能够实现视频内容编辑,如智能剪辑等;甚至能生成虚拟人物出演的视频,可以应用于影视特效、广告制作,助力广告业创新发展,点亮创意殿堂。
AI时代的到来预示着未来会有更多的AI合成内容出现。面对一些具有很明显“异样”的AI合成内容,例如现在AI生成的六根手指、错乱的光影等,我们要做到的是提升自我辨别能力。然而,如今缺乏思考的风气在网络以及更广处发散,层出不穷的人云亦云现象值得我们深思。即使AI生成技术容易产生误导信息,我们对AI生成技术的态度不能消极,重要的不是朝向自己的利刃,而是突破陈旧落后的霹雳,携以端正的方向,让AI生成技术正确“活现”。
人工合成的地震中小孩的图片经转发引发话题,演变成了“乌龙新闻”。这场“乌龙新闻”被打假的同时,不仅让我们反思这社会中人们自我辨别与思考的能力,也促使我们更进一步地反思AI技术的使用。AI生成技术的产生是时代发展的潮流,我们无法抵制它的发展。我们能做到的就是加强自我辨别能力,规范自身,要具有辨别真假的能力,做到不信谣不传谣不误导他人,要擦亮双眼,不被他人宰割。这样,我们才能在“AI化”的道路上走得更加坦然。