AI数据是“有毒的”,相关部门必须迅速采取行动
栏目:成功案例 发布时间:2025-09-20 10:47
遇到问题时,“问AI”成为了更多人的习惯。但是,AI被认为是“明智的”和“目标”,也可以提供不可靠的答案。据媒体报道,一家名为GEO(整体发动机维修)的业务正在上升。一些服务提供商声称,至少需要几千元人民币,以便可以将其品牌信息以客观答案的形式优先考虑您的AI对话框,即使是第一个。这是神秘的,但实际上,这项业务的原则并不复杂。当前AI技术的力量在于搜索和计算功能。换句话说,无论AI有多强大,它都无法创建“创建不像人类”的“创造某些东西”,而应该依靠大型数据库。如果数据资源可靠,那么良好的AI操作可能会想知道,但是问题是,如果数据本身是错误的,甚至可以工作的?通过有组织的“数据中毒”,即通过删除专家身份和虚构的研究端口是不存在的“喂食”错误信息,会污染AI答案的“纯度”,并极大地影响信息透明度。例如,当用户寻找诸如“品牌最佳的问题”之类的问题时,如果服务提供商在高重量平台上的per-post定制内容,在该平台上,AI模型每天都会获取信息,则AI会告诉用户初步的“答案”。它似乎并不是“广告”,但比普通的“广告”更具欺骗性和吸引力。根据媒体调查,它变成了明显标记价格的业务。这种服务的起源为50,000元人民币,不仅可以实现国家优化,而且更重要的是,它可以直接将电子商务链接或下载应用程序附加到AI的答案中,从而为企业提出问题开辟了最短的途径。品牌,但可能会误导用户获取信息并允许他们购买不符合期望的产品,这将与合法权利一起市场的利益。这是GMA。从长远来看,市场共享可能会更倾向于大公司,形成大型垄断,甚至导致“糟糕的钱在驱动好钱”的恶性循环。 “互联网广告管理措施”的第8条显然要求互联网广告应识别并使消费者能够将其识别为广告。通过付费程序获得的搜索排名应标记为“广告”。因此,面对AI中“中毒”的新趋势,及时刺入它尤其是迫切的。一方面,应从技术的角度来加强对AI数据资源的审查,尤其是开发验证和答案功能,从而使用户可以证明是否提供了答案。原则是,当用户得到答案时,他或她还可以通过AI找到事实,然后比较它们以验证答案是否已建立。另一方面,监管当局还应加速法律,澄清“意外AI数据污染”是一种非法手势,并建立了“白名单”制度。当然,对于每个网络和用户,使用AI搜索时,您还应该维护批判性思维并通过多个渠道验证信息。这是保护自己的权利和利益的最有效方法。当然,也就是说,无论将来的AI技术如何先进,人们都应该更多地依靠自己的学习和判断力,而不是依靠AI。文字| Jin Yu
编辑:Wang Zhitao