仿冒AI智能体层出不穷 有用户被误导 谁该担责?

  近期,有网友发现 ,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱 。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第1张图片

  如果AI大模型上的智能体(Agent)告诉你,有“南方电网”招聘的内推渠道 ,这会是真的吗?近日 ,南方电网公司官方科普辟谣平台“南网求知 ”视频号发布视频,反映在大模型上竟搜出了近70个“南方电网”智能体,却没有一个是南方电网发布的。有关所谓内推信息 ,视频号辟谣说:

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第2张图片

  我问南方电网内训师智能体,南方电网有没有内推渠道,它让我联系某个私人手机号 ,顺着号码一查,发现竟是一个中介机构。事实上,南方电网从未开展过任何内推 。所有招聘信息仅通过官方渠道发布 。

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第3张图片

  对此 ,相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签。用户因个人学习 、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体,均未获得官方资质认证。后续平台也将对未经授权、易造成混淆的企业相关智能体下架 。

  究竟什么是智能体 ,它和我们熟悉的DeepSeek等大模型有什么区别?工业和信息化部信息通信经济专家委员会委员刘兴亮指出,智能体从本质上讲,是从“对话”走向了“行动 ”。

  刘兴亮:智能体 ,英文名为Agent。简单地说就是它不只是回答问题 ,它是一个能替你做事的AI 。以前的大模型,你可以理解为它像一个顾问,你问他答。现在这个智能体 ,像一个员工,你说了目标,他去执行。本质上 ,智能体就是把一个机构的服务能力做成了一个“数字员工 ” 。

  既然具备“员工”的能力,为何会频繁出现误导用户的现象?刘兴亮表示,各大平台推行的零门槛创建工具 ,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉”缺陷。

  刘兴亮认为 ,尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。

  刘兴亮:过去的我把他们叫作“生成式AI ” ,现在智能体这一波 ,我把它叫作“养成式AI” 。就是你得去养,AI给了一个能力,就像雇了一个实习员工 ,不是说来了就能很好地上岗,我们得去培训他,去教育他 ,让他变得越来越好。

  智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用,我们还是要提高安全意识 ,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证 。

  对于冒充官方的AI智能体 ,中国政法大学人工智能法研究院院长张凌寒认为,其本质不仅是侵权,更是对公共常识的混淆 。未来 ,提供创建工具的平台理应承担起前置审核义务。

  张凌寒:滥用他人名义的Agent ,是严重的侵权行为和混淆冒用的不正当竞争行为。实际上平台是有审核义务的,这种实名制的认证,包括真实资质的认证 。我们国家已经有一套对账户管理体系的完整的认证机制 ,相信未来这样的制度也都会延伸到有关Agent的审核当中去。

  在AI这位“实习员工”真正成熟之前,如果因为轻信这些山寨智能体造成了损失,制作智能体的个人创建者需要担责吗?北京航空航天大学法学院副教授赵精武给出了明确的法律界定:关键看是否为了商业牟利。

  赵精武:如果只是为了普及知识 ,了解一些业务咨询流程的指导,这不需要担责 。但假如研发者是为了引流 、获取一定的商业利益,在获取商业利益的过程中发生了欺诈 ,这种行为肯定是要担责的。

  但并非所有领域的智能体都能被随意创建。赵精武指出,针对电网 、医疗等特殊场景,以及AI生成内容的标识问题 ,我国现行法律体系已经划定了明确的红线 。

  面对防不胜防的AI生态,张凌寒教授特别提醒,尤其在涉及财产安全的领域 ,绝不可轻信。

  张凌寒:随着平台业务的延伸 ,大量的Agent入驻平台,尤其是在人工智能的“幻觉 ”还无法完全消除的情况下,对于医疗、金融等专业的意见和涉及财产健康方面的Agent ,实际上我们是不能够完全相信的,而是还要到官方网站去进行相关的服务和交易。

  赵精武提醒,当下的智能体尚处于发展阶段 ,切莫被部分技术概念炒作的营销口号迷惑,既要对新兴技术应用抱有积极客观的态度,也要警惕技术创新过程中不可避免的安全风险 。

  (总台记者 任梦岩)

标签:

相关推荐

  • 【辽宁疫情贡献,辽宁疫情总结】

    【辽宁疫情贡献,辽宁疫情总结】

    三八妇女节,致敬她力量!〖壹〗、今天是第111个世界劳动妇女节,致敬“她力量”,中国女排的拼搏精神激励着无数人乘风破浪,逐梦前行。中国女排的精神传承大松精神奠定基础:1965年,日本女排教练大松博文应周恩来总理邀请来华训练中国女排,确立了“三从一大”(从严、从难、从实战出发、大运动量训练)的训练原则,成为中国竞技体育训练体系的基础。〖贰〗、在2026年三八...

    2026/06/21
  • 武昌疫情严重/武汉武昌疫情怎么样

    武昌疫情严重/武汉武昌疫情怎么样

    关注!教育部官方透露接待量超千万的基地竟是……教育部官方透露接待量超千万的基地是国家中医药管理局指导建设遴选的81家国家级中医药文化宣传教育基地。以下是对相关内容的详细介绍:基地类型与分布:这81家基地类型多样,涵盖中医古迹、中医医疗机构、中医药院校、中医药科研机构、中药老字号企业、药植园等。“〖Fourteen〗、五”期间,教育部和财政部通过中央专项彩票...

    2026/06/21
  • 002674,拟5500万元跨界半导体

    002674,拟5500万元跨界半导体

    6月21日,兴业科技(002674)公告称,公司近日与青岛立昂晶电半导体科技有限公司(下称“青岛立昂”)等各方共同签署《关于收购磷化铟业务之框架协议》(下称《框架协议》),拟以现金5500万元收购青岛立昂磷化铟衬底及半导体电子材料的研发、制造与销售业务,收购范围包括但不限于与该业务相关的全部资产以及业务团队、专利商标专有技术等知识产权等。兴业科技表示,公司...

    2026/06/21
  • 衢州打击疫情/衢州发布疫情

    衢州打击疫情/衢州发布疫情

    日本在中国细菌战地点日本细菌战涉及中国东北地区、浙江、湖南、江西、云南、广东、江苏等多个省份。东北地区:日本帝国主义为实施细菌战,曾在东北地区建立制造细菌武器的专门机构,如臭名昭著的731部队,该部队以活人进行细菌实验,研发出多种致命细菌武器,为后续在中国其他地区的细菌战提供了技术和武器支持。日军在中国的实验基地数量众多,涵盖细菌研究基地和毒气实验场等类型...

    2026/06/21
  • 【疫情直播回放,疫情电视直播】

    【疫情直播回放,疫情电视直播】

    疫情期间的网课还能看吗学而思的网课还能正常上,因为现在国家虽然实行了双减政策,对一些课外辅导机构进行了整治,主要是针对一些没有办学资格的机构以及增加孩子学业负担的机构。造成恶性循环与竞争的机构实行了关停政策,但是学而思属于正规的教育机构,对于没有上完的网课,只要不利用周末时间增加,孩子们的学业负担是可以正常上的。如果有直播回放的话可以看的。没有比较好,只有...

    2026/06/21
  • 疫情老哥(疫情 rap)

    疫情老哥(疫情 rap)

    花3万在鹤岗买房的小伙,2.2万终于把房卖了……〖壹〗、在鹤岗花3万买房、2万卖房的小伙,因疫情失去工作后为生存选取亏本售房,其经历折射出当代年轻人对“家”的渴望、经济压力下的生存困境及人生规划的深层思考。〖贰〗、一位小伙子在鹤岗花3万元买房,去年以2万元卖出,亏损26%。〖叁〗、一个年轻人去鹤岗花3万元买房,几个月后以2万元卖出,主要原因是新冠肺炎疫情导...

    2026/06/21
  • 【依兰疫情查封,依兰疫情管控】

    【依兰疫情查封,依兰疫情管控】

    长春至依兰客车是否正常通行了是。通过查询国家疫情防控中心公告显示截止2022年10月31日可知吉林省长春很黑龙江省哈尔滨市依兰两地无新增感染者,无外来病例,属于景泰管理区域,交通已经正常运营了,是可以正常通行的。长春是著名的中国老工业基地,是新中国最早的汽车工业基地和电影制作基地,有“东方底特律”和“东方好莱坞”之称。综上所述,虽然长春市至依兰没有直达的高...

    2026/06/21
  • 意外!百亿A股公司思泉新材公告:副总裁兼董事会秘书不幸去世,年仅40岁

    意外!百亿A股公司思泉新材公告:副总裁兼董事会秘书不幸去世,年仅40岁

    登录新浪财经APP搜索【信披】查看更多考评等级  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  来源:中国基金报  【导读】思泉新材副总裁兼董事会秘书郭智超因意外交通事故不幸去世,公司表示沉痛哀悼  中国基金报记者张舟  6月21日下午,思泉新材发布公告,公司副总裁兼董事会秘书郭智超于6月19日因意外交通事故不幸去...

    2026/06/21
  • 【勤得利疫情,勤得利疫情孙明勋】

    【勤得利疫情,勤得利疫情孙明勋】

    黑土地保护?丨护好、用好、养好!“勤得利”让黑土地重焕发生机和活力...黑龙江北大荒农业股份有限公司勤得利分公司通过“护好、用好、养好”黑土地,实施“藏粮于地、藏粮于技”战略,全面筑牢保障国家粮食安全根基,促进现代化大农业生态绿色可持续发展。勤得利在哪/匕勤得利位于黑龙江省佳木斯市抚远市。地理位置详情勤得利是抚远市的一个农场,地处黑龙江省东北部。它有着独...

    2026/06/21
  • 进出通道疫情/出入通道

    进出通道疫情/出入通道

    为什么医生护士可以进出自由,陪护做了核酸就不允许出去?〖壹〗、医生护士可以相对“自由进出”,而陪护做了核酸仍被限制外出,主要是基于风险等级差异和管理手段不同的考量,具体如下:医护人员方面基于工作职责与必要性:医生护士是医院运转的核心力量,承担着救死扶伤的重任,工作具有24小时不间断性。从危重症抢救到日常护理,医院离不开他们的付出。〖贰〗、因为身份不一样,...

    2026/06/21
返回顶部