点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:面对“AI说谎”,要走出AI依赖更要全面治理
首页> 法治频道> 法眼观察 > 正文

面对“AI说谎”,要走出AI依赖更要全面治理

来源:工人日报2025-01-07 09:47

  “自2025年起,宁波市将免费乘坐公交车的年龄从70周岁降低至65周岁……”记者使用三款人工智能软件询问“宁波公交年满65岁优惠政策”这一问题,得到的三个回答中仅有一个正确,而上述答案则是假消息。(见1月5日《宁波晚报》)

  生成式AI技术让文本、图片、视频等创作变得轻而易举,然而,AI创作出的作品也存在良莠不齐、低级错误频出等情况,甚至会产生“AI幻觉”,输出大量假消息、内容垃圾。上述关于“宁波公交车年满65岁优惠政策”的“AI说谎”事件,就是典型。现实中,一些AI软件搜索微信公众号、短视频平台中的内容后再将其汇总整理,作为答案交给用户。这些源头信息并非出自权威渠道,其中一些真实度、可信度偏低,而AI软件缺乏辨识信息真伪的能力,其提供的答案往往成为“真实的谎言”。一些AI软件还会迎合、讨好用户,根据用户给出提示信息的变化而随时改变立场和答案,甚至编造虚假内容。

  AI内容垃圾泛滥不仅会误导用户,还可能对AI大模型的未来发展构成实质性威胁。当高质量原始数据急剧减少,AI模型为满足庞大的使用需求,会转而抓取大量数据进行训练,一旦被内容垃圾充斥的低质量数据不断增加,模型输出的数据质量也会有下降风险,进而带来“假作真时真亦假”的可怕后果。

  AI软件已不是第一次被吐槽“一本正经地胡说八道”,这种现象亟待引起警惕与重视。对用户而言,不宜过度依赖AI软件,在查询相关重要信息时,要通过权威渠道获得真实可靠答案;在获取AI生成内容后也要有进一步核实真伪的意识,谨慎扩散转发,避免触碰造谣传谣的法律红线。对AI软件开发商而言,则须持续迭代升级技术,精准筛选可靠信源,提高AI模型的逻辑推理判断、信息甄别能力。监管部门亦应及时出台规范标准,研判用户的反馈和投诉,督促AI平台、软件开发商尽快堵漏、升级,同时严惩相关违法违规行为。

  让信息的生成和获取更便捷、让技术赋能千行百业……这是人们对AI技术的美好憧憬,而动辄被其忽悠的不良体验,显然让这份美好打了折扣。但愿“AI说谎”能尽快成为过去时,让AI技术在社会生活中发挥更多正向作用。(江德斌)

[ 责编:孙满桃 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 安徽香涧至鹭岛500千伏线路工程完成淮河大跨越

  • 宁夏贺兰山东麓 “红酒+”激发新活力

独家策划

推荐阅读
“如果你是一名文科生,将有机会学习数学和计算机,将来可能成为人工智能方面的研究生”,这是不久前,复旦大学教育教学改革发布会上传出的消息。
2025-06-12 18:17
一种新的神经细胞网络是造成这一现象的原因。
2025-06-12 09:52
这一机器人仿生手灵感源于人类手部的生物智慧。
2025-06-12 09:46
冬虫夏草学名叫“中华线虫草”,其实是一种寄生蝙蝠蛾幼虫的真菌。线虫草在白垩纪就已经寄生蚂蚁的基干类群,学会了“操控蚂蚁”,而这类寄生蚂蚁的线虫草,正是如今最繁盛的一支。
2025-06-12 09:43
来自NASA的3位科学家分析了2020—2024年间坠落地球的523颗“星链”卫星在不同太阳活动水平的轨道变化。美国《商业内幕》网站报道称,很多科学家担心“星链”卫星可能会以人们尚不了解的方式破坏大气层。
2025-06-12 09:40
天气越来越热,我们中医院急诊西北角的药膳坊门前,同样“火热”。现在,“中医药+餐饮”在很多地方越来越火,药膳面包等产品吸引了很多消费者,也带动了更多人了解中医药知识和养生理念。
2025-06-12 09:37
中毒、缺氧、病原体侵袭……这些突如其来的“变故”会诱发生命应激反应。
2025-06-11 09:27
传统人工智能研究聚焦于物体识别准确率,却鲜少探讨模型是否真正“理解”物体含义。
2025-06-11 09:26
为满足小农户的粮食干燥需求,该所联合国内多家单位研制出智能化可移动牵引式烘干机。
2025-06-11 09:25
近日,国家发展改革委、国家能源局发布《关于有序推动绿电直连发展有关事项的通知》,提出以满足企业绿色用能需求、提升新能源就近就地消纳水平为目标,建设绿电直连项目。
2025-06-11 09:23
 地处浙皖赣三省交界处的钱江源—百山祖国家公园候选区,由衢州市开化县的钱江源园区与丽水市的百山祖园区组成,总面积约747平方公里。
2025-06-11 09:23
为发挥警示作用,切实推动问题整改,第三轮第四批中央生态环境保护督察9日对第一批典型案例进行集中公开通报。
2025-06-10 10:04
6月8日,国产人形机器人携手机器狗攀上湖北燕矶长江大桥,挑战在全球最长猫道上行走。
2025-06-10 10:03
夏日,生机勃勃,在北京市温榆河公园“生态心”区域,这里没有人工干预和打理,一切都在“野蛮”生长。
2025-06-10 10:02
日前,位于重庆巫山的五里坡管理中心在科研监测中发现了2个新属共8个新物种,这是继2022年发现4个新物种后该中心在五里坡国家级自然保护区再次发现新物种。
2025-06-10 09:59
这所理工基础雄厚的高校,以低调务实之风,书写了“科学人文总相宜”的杏坛佳话。
2025-06-10 09:58
决定智力水平高低的因素非常多,脑容量只是其中的一个因素,而且这种关联并不是必然的。
2025-06-09 10:43
记者8日从中国科学院高能物理研究所获悉,P波段大功率超构材料速调管研制成功,并顺利通过所有测试完成验收。P波段大功率速调管是中国散裂中子源(CSNS)直线加速器的核心器件。
2025-06-09 10:34
此时正值我国主汛期,副热带高压边缘的暖湿气流与北方冷空气交汇,形成锋面雨带,江南地区更因副热带高压北抬进入梅雨季,长江中下游至华南地区常出现持续性阴雨或雷阵雨天气。副热带高压的强度和位置变化还会影响其他天气系统的活动,如热带气旋(台风)的生成和走向,进而影响降水分布。
2025-06-09 10:24
“海”一般与陆地相连,面积往往在百万平方公里量级以下;“海”与“洋”都有“大片水域”的意思,但“洋”的面积更大,其中心部位到陆地距离更远。了解海与洋的演化历史后,我们就更能理解海洋对人类的深远影响。
2025-06-09 10:20
加载更多