点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “冰城”大雪人亮相

  • 景泰蓝传承与创新艺术展在国家大剧院开幕

独家策划

推荐阅读
长途出行,电动汽车、充电桩随处可见;冬天取暖,不再以烧煤为主,而转为电采暖……今天,我们身边用能电气化的场景愈发常见。
2025-12-16 10:13
记者从2026中国信通院深度观察报告会上获悉:“十四五”时期,我国6G发展处于愿景需求定义清晰、技术突破初见成效、标准研究全面启动的关键阶段。
2025-12-16 10:06
相较西方国家而言,中国现代科研体系起步较晚,直至改革开放后才重建硕博制度,科研力量逐步壮大。(作者系中国科学院院士,本报记者冯丽妃据其在新疆科普专家报告团活动中的发言整理)  《中国科学报》 (2025-12-16 第1版 要闻)
2025-12-16 10:02
种子休眠是指种子在适宜发芽的条件下仍“按兵不动”,直到环境真正安全才“启动”发芽,是农作物在驯化过程中被深刻改造的关键性状之一。研究发现,一个名为MKK3的基因通过“拷贝数+激酶活性”双轮驱动,塑造了大麦在全球不同气候区的休眠节律。
2025-12-16 09:58
区块链、云计算等技术的应用,正推动畜牧业形成从养殖到消费的全程数字化溯源体系,提升整体协同效率,创造产业协同新价值。推动数字技术与畜牧业深度融合,有赖于构建多方参与、协同推进的长效机制。
2025-12-16 09:55
作为国际上首个建成的新一代超大规模、超高精度的中微子实验装置,这里吸引着全世界的目光。细数这一年,更多创新成果从“实验室”走向“生产线”并落地应用场景,创新“势能”向经济“动能”不断转化。
2025-12-16 09:52
深海、极地,这两个词给普通人带来的是神秘又浪漫的感觉。但对于一线科研人员来说,却意味着枯燥与艰辛:在狭小的潜水器球舱里工作9个小时,为了工作甚至不敢多喝水;在零下十几摄氏度的后甲板上作业,海风吹在脸上如刀割般疼痛;在高达13级的风暴中,晕船到无法站立……
2025-12-15 09:56
12月12日中午,在北京中国科学院国家天文台会议室内,研究员刘继峰、王亚楠与中国科学院大学副教授黄样、华中科技大学教授雷卫华等正在聚焦1.2亿光年外的一场“宇宙风暴”—— 一颗恒星被超大质量黑洞撕裂,残骸形成炽热的吸积盘,并驱动喷流同步摆动。
2025-12-15 09:53
 研究团队通过分析271个沉积物样本和86个岩芯的高分辨率记录,构建了迄今为止最完整的南极沿岸冰间湖沉积物数据库,并量化了其碳储存效率。
2025-12-15 09:48
14日从中国海油获悉,随着亚洲第一深水导管架平台“海基二号”最后一口生产井投用,我国首个深水油田——流花油田二次开发项目实现全面投产,标志着我国在深水复杂油藏开发领域实现重大跨越。
2025-12-15 09:47
以市场需求为导向,充分发挥企业创新主体作用,便有利于我们敏锐地捕捉到技术链中的薄弱环节。
2025-12-15 09:44
新华社北京12月12日电 由中央网信办主办的2025中国正能量网络精品征集展播活动12日启动。
2025-12-12 13:08
记者11日从中国科学院微小卫星创新研究院(以下简称“卫星创新院”)获悉,轻舟货运飞船初样件已完成多项关键技术验证,进入整体测试阶段。
2025-12-12 09:55
近日,中国石油大庆古龙陆相页岩油国家级示范区年产量突破100万吨,实现页岩油规模化效益开采。
2025-12-12 09:50
2026年1月1日起,我国将禁止生产含汞体温计和含汞血压计。
2025-12-12 09:48
11日,中国科学院紫金山天文台“银河画卷”(MWISP)巡天计划(以下简称“巡天计划”)正式向全球公开首批毫米波分子谱线观测数据。
2025-12-12 09:47
截至12月9日24时,哈密—重庆±800千伏特高压直流输电工程(以下简称“疆电入渝”工程)自今年6月10日投运以来,累计外送电量已达101.2亿千瓦时。
2025-12-12 09:45
加快培育壮大数据产业,以区域协同数智化发展带动数据产业集群、数字产业集群做大做强。以兼顾标准互认、质量保障和安全可信的制度体系,护航数据产品服务流通交易、变现增值。数字经济具有数据资源依赖度高、技术知识人才密集、高融合渗透性及行业覆盖面广等特点。
2025-12-11 10:16
光明日报西宁12月10日电 记者万玛加、王雯静日前从国网青海省电力公司获悉,青海电力交易中心与北京电力交易中心、吉林电力交易中心“三网”联动,共同达成跨省跨区中长期外送电力交易,交易电量自12月8日起执行至31日止,累计交易电量1876万千瓦时。
2025-12-11 10:15
2020年12月,科技部在苏州高新区等13家国家高新区启动首批试点,探索实施“创新积分制”,对企业创新能力进行量化评价,引导金融机构精准支持科技创新。联动实施“创新积分制”和科技创新专项担保计划,累计向21家银行推荐超过17万家科技型中小企业,签订贷款合同超2900亿元……
2025-12-11 10:15
加载更多