仿冒AI智能体层出不穷 有用户被误导 谁该担责?

  近期,有网友发现 ,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱 。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第1张图片

  如果AI大模型上的智能体(Agent)告诉你,有“南方电网”招聘的内推渠道 ,这会是真的吗?近日 ,南方电网公司官方科普辟谣平台“南网求知 ”视频号发布视频,反映在大模型上竟搜出了近70个“南方电网”智能体,却没有一个是南方电网发布的。有关所谓内推信息 ,视频号辟谣说:

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第2张图片

  我问南方电网内训师智能体,南方电网有没有内推渠道,它让我联系某个私人手机号 ,顺着号码一查,发现竟是一个中介机构。事实上,南方电网从未开展过任何内推 。所有招聘信息仅通过官方渠道发布 。

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第3张图片

  对此 ,相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签。用户因个人学习 、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体,均未获得官方资质认证。后续平台也将对未经授权、易造成混淆的企业相关智能体下架 。

  究竟什么是智能体 ,它和我们熟悉的DeepSeek等大模型有什么区别?工业和信息化部信息通信经济专家委员会委员刘兴亮指出,智能体从本质上讲,是从“对话”走向了“行动 ”。

  刘兴亮:智能体 ,英文名为Agent。简单地说就是它不只是回答问题 ,它是一个能替你做事的AI 。以前的大模型,你可以理解为它像一个顾问,你问他答。现在这个智能体 ,像一个员工,你说了目标,他去执行。本质上 ,智能体就是把一个机构的服务能力做成了一个“数字员工 ” 。

  既然具备“员工”的能力,为何会频繁出现误导用户的现象?刘兴亮表示,各大平台推行的零门槛创建工具 ,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉”缺陷。

  刘兴亮认为 ,尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。

  刘兴亮:过去的我把他们叫作“生成式AI ” ,现在智能体这一波 ,我把它叫作“养成式AI” 。就是你得去养,AI给了一个能力,就像雇了一个实习员工 ,不是说来了就能很好地上岗,我们得去培训他,去教育他 ,让他变得越来越好。

  智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用,我们还是要提高安全意识 ,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证 。

  对于冒充官方的AI智能体 ,中国政法大学人工智能法研究院院长张凌寒认为,其本质不仅是侵权,更是对公共常识的混淆 。未来 ,提供创建工具的平台理应承担起前置审核义务。

  张凌寒:滥用他人名义的Agent ,是严重的侵权行为和混淆冒用的不正当竞争行为。实际上平台是有审核义务的,这种实名制的认证,包括真实资质的认证 。我们国家已经有一套对账户管理体系的完整的认证机制 ,相信未来这样的制度也都会延伸到有关Agent的审核当中去。

  在AI这位“实习员工”真正成熟之前,如果因为轻信这些山寨智能体造成了损失,制作智能体的个人创建者需要担责吗?北京航空航天大学法学院副教授赵精武给出了明确的法律界定:关键看是否为了商业牟利。

  赵精武:如果只是为了普及知识 ,了解一些业务咨询流程的指导,这不需要担责 。但假如研发者是为了引流 、获取一定的商业利益,在获取商业利益的过程中发生了欺诈 ,这种行为肯定是要担责的。

  但并非所有领域的智能体都能被随意创建。赵精武指出,针对电网 、医疗等特殊场景,以及AI生成内容的标识问题 ,我国现行法律体系已经划定了明确的红线 。

  面对防不胜防的AI生态,张凌寒教授特别提醒,尤其在涉及财产安全的领域 ,绝不可轻信。

  张凌寒:随着平台业务的延伸 ,大量的Agent入驻平台,尤其是在人工智能的“幻觉 ”还无法完全消除的情况下,对于医疗、金融等专业的意见和涉及财产健康方面的Agent ,实际上我们是不能够完全相信的,而是还要到官方网站去进行相关的服务和交易。

  赵精武提醒,当下的智能体尚处于发展阶段 ,切莫被部分技术概念炒作的营销口号迷惑,既要对新兴技术应用抱有积极客观的态度,也要警惕技术创新过程中不可避免的安全风险 。

  (总台记者 任梦岩)

标签:

相关推荐

  • 矿业股领涨,TSX综合指数因美伊和谈希望大涨逾1%

    矿业股领涨,TSX综合指数因美伊和谈希望大涨逾1%

      受美国与伊朗有望达成和平协议的乐观情绪提振,加拿大主要股指大幅走高,矿业股成为领涨主力。  多伦多证券交易所S&P/TSX综合指数上涨1.1%,报33938.48点。盘中指数进一步扩大涨幅,一度触及34005.40点,涨幅达1.3%。  矿业板块表现最为抢眼,整体涨幅超过6%,创下自2025年4月以来的最大单日涨幅。黄金价格加速上涨,一度攀升...

    2026/05/07
  • 举办疫情展/疫情展示馆

    举办疫情展/疫情展示馆

    民政部:全国性行业协会商会在疫情控制前不得举办年会展会民政部要求全国性行业协会商会在疫情得到有效控制前,一般不得举办年会、展会等各类聚集性活动。具体内容如下:禁止聚集性活动:民政部发布的指导意见明确,全国性行业协会商会在疫情得到有效控制前,一般不得举办年会、展会、研讨会、论坛、讲座、培训等各类聚集性活动。此举旨在减少人员聚集,降低疫情传播风险。民政部门批准...

    2026/05/07
  • 疫情病例视频(疫情病例实时数据)

    疫情病例视频(疫情病例实时数据)

    西安再现社会面病例,启用“大锅汤”等防疫经验刻不容缓!〖壹〗、西安再现社会面病例,启用“大锅汤”等防疫经验确有必要且刻不容缓。以下从疫情现状、社会面病例风险、中医防疫经验及建议等方面展开阐述:西安疫情现状3月5日西安出现新疫情,距离上次1月25日结束封城过去40天。从3月5日到3月10日,西安报告38例本土确诊病例,均在隔离管控状态中发现,对社会面影响较小...

    2026/05/07
  • 中国疫情后工作(中国疫情后工作现状)

    中国疫情后工作(中国疫情后工作现状)

    疫情过后的中国经济(二)疫情后中国经济中大城市与二线城市的发展困境与出路大城市:规模并非原罪,配套与规划是关键“大城市病”的误解:疫情中武汉等大城市暴露的医疗资源紧张等问题,常被归咎于“大城市病”,但人口规模并非根本原因。例如,武汉的困境更多源于人口流动压力而非绝对人口过多。同时,疫情带来的不确定性也增加了消费者的储蓄意愿,减少了消费支出,进一步加剧了经济...

  • 阳泉疫情政策/阳泉疫情防控措施

    阳泉疫情政策/阳泉疫情防控措施

    阳泉有一例确诊病例可以去北京吗〖壹〗、可以。阳泉位于山西省中东部,该城市有一例确诊病例是可以进北京,凭48小时内核酸检测阴性证明和健康码绿码进京,到北京后需要在7两小时内再检测一次核酸,由所在地区有确诊病例,按近来北京防疫政策,要求居家隔离14天,最少也得要求居家观察7天,没有特殊事情需要办理,建议暂缓进京,待疫情结束后再进京。〖贰〗、可以回,阳泉疫情不严...

    2026/05/07
  • 静安庄疫情(上海静安区新冠疫情)

    静安庄疫情(上海静安区新冠疫情)

    请问静安庄在几环,什么区?〖壹〗、静安庄在三环。它离甘露园40分钟左右吧,大约12公里左右。〖贰〗、这是北京朝阳区的静安庄。具体信息如下:地理位置:位于北京市的东北方向,北三环东路。交通方式:可通过地铁10号线到达太阳宫站,从C口出站后步行约800米左转即可看到静安庄。图中标识:图中的红点标注了静安庄的具体位置。〖叁〗、北京现在一共是5个环路分别是二...

    2026/05/07
  • 【疫情备春耕,疫情防控做好春耕农资】

    【疫情备春耕,疫情防控做好春耕农资】

    提早谋划春耕备耕夯实粮食安全基础我国粮食产量连续8年稳定在3万亿斤以上,但需持续警惕世界局势波动对粮食市场的冲击。提早谋划春耕备耕,既是保障国内供给稳定的需要,也是应对全球粮食危机的战略举措。通过政策扶持、技术支撑和市场监管,确保全年粮食丰收,进一步凸显粮食安全“压舱石”作用。猫营镇紧扣农时,通过“早”部署、“浓”宣传、“强”保障多举措推进春耕备耕,稳定粮...

    2026/05/07
  • 疫情导游补助/导游疫情补贴

    疫情导游补助/导游疫情补贴

    当导游赚钱吗?〖壹〗、综上所述,导游证确实可以赚钱,但要想获得更高的经济收益,需要持证者付出更多的努力和时间来提升自己的能力和服务水平。〖贰〗、收入多元化:全职导游旺季月收入可达8000-15000元,出境游导游更高;兼职导游单次带团收入300-800元/天;自由职业者通过线上平台接单,定制化服务日薪可达1500元+,小语种导游或带高端团还有小费佣...

    2026/05/07
  • 美国债市:美伊和平协议预期推动国债上涨 互换利差扩大

    美国债市:美伊和平协议预期推动国债上涨 互换利差扩大

      美国国债在美国早盘时段大幅上涨,互换利差剧烈走阔,此前Axios报道称,美国和伊朗正在磋商一份备忘录,旨在为进一步的核谈判设定框架。尽管美债涨幅在盘中收窄,但仍保持上涨,而WTI期货日内维持跌势。美国财政部维持再融资指引不变后,互换利差的买盘得以维持。  纽约时间下午3点刚过,美债收益率脱离盘中低点,但全线仍保持5个基点至8个基点的跌幅,呈现牛市陡峭走...

    2026/05/07
  • 浙江疫情贷款/疫情防控贷款贷款利率政策

    浙江疫情贷款/疫情防控贷款贷款利率政策

    疫情期间贷款可以免利息吗〖壹〗、家银行在抗疫期间推出的减免政策主要包括对特定群体个人信贷逾期不计违约、减免利息费用、提供征信保护,对小微企业及受疫情影响行业加大信贷支持、降低利率、减免手续费等。〖贰〗、疫情期间贷款利息通常不能直接减免,但部分银行会针对受疫情影响的用户提供罚息减免或宽限服务。多数银行无直接利息减免政策疫情期间,多数银行未出台普遍性的贷款利息...

    2026/05/07
返回顶部