○新华社记者 彭韵佳 李 恒
7月10日,北京协和医院发布严正声明称,网传该院多名护士十年间为患者垫付医药费等不实情节为AI生成的虚假内容。
一段时间以来,本应服务人民健康、赋能医疗事业发展的AI技术,正被一些人异化为批量制造谣言、蹭流量谋利的“推手”,不仅误导公众认知,加剧安全隐患,更损害行业公信力,破坏医患关系。
梳理这些乱象,可以看到医疗领域AI造假层出不穷,从换脸带货到批量造谣,形式多样。
“移花接木”、伪造权威,AI换脸冒名专家带货牟利。不法分子利用人工智能,将公开视频中的知名专家形象和声音,移花接木到新视频中,为商品“背书”,普通人难以分辨真伪。
“滥竽充数”、批量生产,利用AI生成虚假科普内容。部分账号利用AI工具批量生成医疗科普内容,看似专业实则漏洞百出,甚至互相矛盾。
“无中生有”、混淆视听,AI虚构情节炮制假新闻。
人工智能不是赚流量、博眼球的工具,医疗科普更不是流量生意。
当前,国家层面不断出台规定:借助人工智能技术生成合成医疗科普信息、分享传播真实健康经历的,需严格标注信息来源或生成合成内容标识;“自媒体”账号对发布转发医疗科普信息的真实性、科学性负责,严禁无资质账号生产发布专业医疗科普内容……
“医疗领域AI造假事件,其本质并非技术失控,而是人为操纵下的多重侵权与违法行为。”武汉大学法学院副院长武亦文说,造假链条中的内容生产者、传播平台乃至技术提供方,均可依据相关法律条例追究其民事、行政和刑事多重责任。
部分平台正在加强治理。如,抖音更新关于抖音医疗内容治理新规,严禁创作者借不当营销、不当演绎、不当蹭热、发布低俗内容等方式进行违规导流获利;快手宣布对利用养生内容违规引流交易的行为展开集中整治,封禁多个账号,并对违规直播间采取无限期回收权限、永久封号等措施。
(据新华社北京7月11日电)
扫一扫在手机上查看当前页面

