原标题:公众呼吁社交平台谨慎对待AI生成内容
据英国《卫报》网站12月5日报道,在社交媒体平台上出现了许多通过人工智能(AI)生成的深度伪造视频,这些视频伪造医生的观点,以帮助销售补品和传播有关健康的错误信息。
英国“全部事实”组织已经发现了数以百计的这种视频,并于5日发表了相关情况的调查报告。在这些视频中,一些医生和网红的形象被冒用,引导网友前往一家总部在美国的名为“健康之巢”的保健品公司网站购买产品。
所有的深度伪造视频素材都来自互联网上截取的健康专家的真实画面。然而,图像和音频都被篡改,从而让这些专家鼓励更年期女性从保健品公司网站上购买产品。
这些虚假视频促使人们呼吁大型社交媒体公司以更为谨慎的态度对待AI生成的内容,并更快删除篡改他人观点的视频。
负责调查这一问题的事实核查员利奥·贝内迪克特斯说:“这显然是一种目的险恶、令人担忧的促销新策略。”
他补充说,深度伪造的健康视频利用AI技术,让“受人尊敬的专家或拥有大量粉丝的网红看上去非常支持以健康补剂来治疗一系列疾病”。
利物浦大学健康问题专家戴维·泰勒-鲁滨逊教授就是被深度伪造视频篡改的对象之一。今年8月,他震惊地发现,TikTok上有14个篡改他发言的视频,旨在推荐一些效果未经证实的健康补剂。
泰勒-鲁滨逊本是儿童健康方面的专家,但在一段视频中,他竟然在谈论更年期问题。在这段虚假视频中,被冒名的泰勒-鲁滨逊建议更年期女性前往“健康之巢”网站,购买所谓的天然益生菌。
在一名同事提醒后,真正的泰勒-鲁滨逊才发现自己的形象被人冒用。他说:“一开始我真的很困惑——一切都很超现实——连我的孩子们也觉得很好笑。我并没有觉得自己受到了极大的侵犯,但一想到有人利用我来销售产品,而且其中涉及错误的健康信息,我就越想越生气。”
泰勒-鲁滨逊用了6周时间,才让网站撤下了这些视频。他说:“网站起初说,一些视频虽然违反了平台原则,但另一些无伤大雅。为了让他们撤下这些视频,我费了一番周折。”
英国自由民主党健康卫生问题发言人海伦·摩根说:“从假医生到鼓励自杀的聊天机器人,AI正在被用来掠夺无辜者,并利用我们卫生体系日益扩大的裂隙。”(编译/潘晓燕)


