首页 小说推荐 实时讯息 百科知识 范文大全 经典语录
当前位置: 首页 > 实时讯息 >

如何对待AI生成的文章?专家:发布信息时心里要有数

  • 0次浏览     发布时间:2025-04-09 18:34:00    
  • 央视新闻客户端

    随着人工智能应用逐渐深入我们的日常生活,与人工智能相关的信息也不断涌现。前不久,一条内容为全国首例“AI医疗误诊”诉讼案开庭的文章,发布在某网络平台上。文章不仅对这起案件做了详细的介绍,还着重分析了案件的庭审焦点和法律问题。然而经《法治在线》记者核实,这篇煞有其事的文章完全是子虚乌有的虚假信息。

    时间、地点清晰明了,案情介绍颇为详细。这篇标题为“全国首例‘AI医疗误诊诉讼案’开庭,算法责任界定成焦点”的文章3月13日在某网络平台上发布。

    据文章称:2025年3月13日,全国首例“AI医疗误诊”诉讼案在北京市海淀区人民法院正式开庭。文章还对这起案件的基本案情做了详细介绍,称2024年12月,北京市民张女士因持续胸痛前往某三甲医院就诊。接诊医生使用院内部署的“智诊AI系统”进行辅助诊断。然而,张女士次日突发急性心肌梗死,抢救无效死亡。

    这篇文章发布后,立即引发了网友对这起所谓误诊案的热烈讨论。那么究竟是否有这样一起案件在北京市海淀区人民法院开庭审理呢?《法治在线》记者与法院进行了核实。

    北京市海淀区人民法院立案庭副庭长 申进:我们在立案,还有审判这个相关的系统呢,我们都查找过了,确实没有发现这个相关案件。

    经记者与法院核实,既没有相关案件在当天开庭,也没有文中所提到的案件在法院进行立案,文中所谓的庭审完全是子虚乌有的虚假信息,更不存在全国首例医疗误诊案一说。

    清华大学新闻与传播学院 人工智能学院教授 沈阳:现在使用AI是比较容易生成一篇包含所有新闻要素的文章的,包括时间、地点、人物、事件,这些AI因为是一个概率推理的模型的话,它可以自动的给你脑补上,并且可以把所有的细节都设计好。

    那么还有哪些虚假信息的展现,令这篇文章看上去极具迷惑性呢?

    虽然文章提到的庭审信息和案件内容并不存在,但它依然使用大篇幅,着重分析了这起所谓AI医疗误诊案件所涉及的庭审争议焦点,并详细列明了AI公司、医院方以及医生的相关主张。此外文章还从法律困境、行业影响等多个板块进行了讨论分析,可谓是信息量十足。而这篇看似极具专业性的分析收获了网友百余条的回复讨论。

    清华大学新闻与传播学院 人工智能学院教授 沈阳:这篇文章第一是细节都比较充分,第二有些词语很专业,这也是AI谣言的一个特征,正常的人写文章的时候,这个人只有具备某个方向的专业知识,他才能使用专业词汇,但是对AI来说,因为是基本上吸收了人类全量的公开知识,这种情况下,它在任何专业方向上都可以使用层级比较深的专业词汇,所以专业性也使得这种文章看上去特别能够迷惑人。

    信息多、细节多、分析角度多,这样极具迷惑性的谣言文章非常容易以假乱真,这又会给公众带来怎样的影响和危害呢?

    清华大学新闻与传播学院 人工智能学院教授 沈阳:它会误导大家,本来真实世界当中是没有这样的事,现在捏造了这样的一个事件,就会对人的认知产生一个印象,比如说我们就认为这篇文章谈到的某些观点是对的,或者某个事实是对的,这样对于人类在下一次做决策的时候,肯定是会产生影响的。所以我想编制的谣言,有的有即时的思想上的影响和行动上的影响,还有的谣言是有长远的影响,潜移默化地改变一些认知,所以我想就这一类谣言还是有相当危害的。

    近年来,利用人工智能生成的文章在网络漫延,真假难辨。虚假信息扩散的加剧也引发了社会的广泛关注。

    为了促进人工智能健康发展,规范人工智能生成合成内容标识,近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》,自2025年9月1日起施行。《标识办法》提出强制添加显式和隐式标识等规范要求,所有AI生成的文字、图片、视频等内容,都要“亮明身份”。

    清华大学新闻与传播学院 人工智能学院教授 沈阳:比如说一篇文章是AI生成的,如果涉及到事实,一定要把它标注出来,这是AI生成的。并且在转载传播过程当中,不能把是AI生成的标识给删除,所以我觉得这个是一个非常重要的起点。第二个就是每个人在发布什么信息的时候,心里面一定要有数,这个是AI生成的吗?发布出去会对大家造成什么样的影响?所以在传播的起点,进行严格的审核,这个是非常重要的,对于每个人来说,都应该提高AI的素养,应该知道哪些AI的内容是可以进行传播,哪些AI的内容生成的谬误的信息是不应该传播的,要有一个甄别能力,否则就变成了自己被动或者主动地参与传播谣言了。

    (总台央视记者 张李彬 曾晓蕾 李红叶)

    原稿点击>>

    如何对待AI生成的文章?专家:发布信息时心里要有数-重庆日报

    相关文章