数字技术创造的完美销售员奇观正在悄然侵蚀着电商诚信的根基。两个身着白色短袖的“孩子”在阳光下快乐地滑冰，身体融为一体，动作交织在一起。如此诡异的一幕并非奇幻电影片段，而是今年“双11”期间在社交平台上发布的童装宣传视频。当北京居民王璜意识到“人工智能生成内容”的含义时，她的问题代表了许多消费者的声音。 “这个形象太错误了。人们怎么能相信产品的真实效果呢？” 当前，电商领域正陷入“模式使用”危机。 “两个人互相穿透对方的身体，显然违反了现实世界的物理定律。在业界，我们称之为‘模型穿透’。”高级人工智能工程师蓝天解释道，他解释说，这种现象凸显了人工智能技术在合作方面的局限性。复杂的动态场景。目前的AI视频生成模型仍然缺乏深度识别和预测现实世界复杂物理规律的能力。令人担忧的是，一段针对电子商务专业人士的教育视频中，一位直播电子商务博主向学生展示了一段存在“霉菌生长”问题的童装视频。作为“好模板”。有博主宣传自己的“命中逻辑”是“利用AI大量制作这些视频，精准捕捉妈妈们的心理”。  使用人工智能工具批量生成营销视频在电商运营中已变得非常普遍。 Internet.icos 上也出现了系统教程，教营销人员如何快速制作引人注目的视频。更严重的是，一些博主展示了他们如何使用人工智能工具“彻底改造”原始视频中的角色。除了改变面部特征、上衣和配饰之外，他们甚至还调整了角色的体型和性别。的扩散此类教育内容模糊了现实与虚构的界限，给消费环境带来了隐患和风险。技术被滥用，不仅损害了消费者的权益，名人也是被模仿的对象。中国工程院院士、中医硕士张伯礼在一次国际年度学术会议上不得不以“打假”发言为开端，向与会者展示一段用自己的形象和声音制作的假人工智能视频。信任危机正从对产品的质疑蔓延到整个电商诚信体系。不仅专家学者深感震惊，知名媒体人士也成为了被伪造的对象。今年6月，北京市海淀区市场监管局查处首例滥用人工智能技术发布虚假广告案件。该公司使用了一个视频帐户，其中有数百名利用追随者来宣传其销售的“鱼油”的治疗特性。然而，目前的标准产品所谓“鱼油”只​​不过是普通糖果，没有任何治疗作用。这种滥用人工智能技术进行虚假宣传的行为正在严重损害消费者权益和公共秩序。 面对人工智能销售和广告的颠覆，治理系统必须不断优化。中国政法大学副教授、中国广告协会法律道德委员会专家朱伟建议，“应加强合成内容的识别和溯源，推动平台、监管机构和技术提供商之间的数据共享和标准制定。”从平台治理的角度来看，一些广告公司已经开始构建全面的流程管理机制，重点关注：存在违反公共秩序和道德、抄袭、虚假广告等显着风险的行为，我们采取“精准识别、严格处理”措施。据介绍，今年第三季度，营销服务平台截获人工智能违法违规素材超过84万条，治理工作已取得阶段性成果。 如今，人工智能对虚假广告的管理正在从依赖人工审核演变为人机协作和智能识别。通过应用大规模多模态模型，该平台提高了识别效率。该系统可以快速分析视频素材，识别出违法内容出现的具体时刻和场景，可以作为侦查决策的参考。我来了。一些平台客服回应称，如果AI应用“影响或引起消费者不适，则不会被允许”。但问题的核心远远超出了 vi日常不适。如果算法可以模拟现实但不能保证其完整性，那么技术效率的提高可能会成为欺骗消费者的工具。这不仅关系到消费者的权益，也关系到整个电商生态系统的健康发展。治理的挑战在于平衡。我们需要鼓励创新，同时防止技术被滥用。他们需要提高运营效率，同时维护消费者的信任。这需要所有利益相关者共同努力，为人工智能营销划清清晰的界限和利润线。 来源：京中网（湖北日报） 作者：肖祖军（湖北省宜昌市） 编辑：丁秋峰