有人说什么，说“我整天忙着巡演，头发不停地掉，老公陪着自己去上海找中医看病，那中医推荐了一款里面含有何首乌的洗发水……”，这是当下韩国特别火的顶级流量明星IU（也就是李智恩）的最新短视频吗？可是仔细去看那个账号的相关信息，就会发现原来都是通过AI合成出来的不真实信息，很容易把人给误导了。最近这些日子里，小红书专门发了关于整治AI技术被滥用情况的公告。
IU台词突现“何首乌”，张凌赫茯苓膏卖不完？
有扬子晚报/紫牛新闻记者，于短视频平台上见到此种情形，那本是韩国明星IU也就是李智恩的一段综艺访谈节目，忽然间她开始说起，老公陪自己去上海看中医，中医为此推荐了一款含何首乌的洗发水，还有另一段，取自热播剧《爱你》男主张凌赫的台词，同样是说着说着，便先从中医话题转到养生内容，又从养生内容讲到了某品牌茯苓膏，还打出了字幕是健康运动加上那个养生饮食再到XX膏 。此外，于某短视频平台，输入“癌症预防”这一关键词，接着输入“孩子长高秘诀”这一关键词，就能够刷出大量带有“医生讲解”这一标签的视频，而且还能刷出大量带有“专家建议”这一标签的视频。
/strip/-error/1|"/>
明星IU经常推销洗发水？
扬子晚报、紫牛新闻的一名记者，向某公司视频工作室专注于AI生成技术的专家马斌进行了咨询，这位专家称，借助技术方面的检测以及比对的方式，能够容易地发觉，其中存在着不少画面是经由AI生成的，所运用的形象乃是从真实的公众人物面部提取之后建模合成的，甚至有一些竟然直接模拟套用了知名医生、演员的声音以及面孔，以此来实施“深度伪造”，在某些地方可以说是达成了“丝滑嫁接”，呈现出半真半假情形。值得予以警惕的是，这类视频之中掺杂着一部分具有一定比例的真实科普信息，其中包括引用部分官方之中被规定的数据部分或者具备医学属性的术语，听起来好像颇为具有科学依据，致使普通观众在短时间之内难以分辨真假。
AI专家认为是“信息污染”，律师表示“涉嫌违法”
马斌指出，这是一种极为危险的信息污染行为，AI合成技术自身具备中立属性，然而，一旦被用于谋取利益进行造假，便极有可能严重侵害公众知情权与平台公信力，虚假的医学建议以及错误的营养常识，或许会直接影响用户健康判断，后果不容轻视。
采访中的记者察觉到，这类视频背后常常关联着引流、带货，甚至是非法推广保健品等商业链条。有的账号先是借助“名医讲解”来积攒流量，接着引导用户去点击私信或者跳转至第三方平台，以此达成变现的目的。另外还有部分视频直接捆绑商品，运用AI合成的“专家”口吻去推荐那些号称“包治百病”的偏方以及产品。
/strip/-error/1|"/>
张凌赫卖茯苓膏？
多位在业内有着一定地位的人士宣称，当下平台针对AI伪造出来的内容所运用的识别以及处置的办法依旧处在滞后情形，一些视频表面上看起来存在虚假宣传的嫌疑，然而因为其合成技术达到了相当高超的那种程度，所以没能在第一时间就被甄别出来进而下架 。
这件事上，上海中联（南京）律师事务所的王云霞主任，在接受扬子晚报/紫牛新闻记者采访时讲，伴随人工智能技术不断发展，生成式人工智能技术也就是AIGC，在内容创作领域被广泛运用，给创作者带来了更多便利条件但是AIGC也引发了一些挑战与风险，像识别困难程度、虚假信息、侵权之类问题今年3月的时候，国家互联网信息办公室等四个部门联合发布了《人工智能生成合成内容标识办法》其规定之中表明，人工智能生成合成内容标识存有显式标识以及隐式标识 。没有任何一个组织可以恶意去删除，也没有任何一个个人能够随意来篡改，更不能有任何组织或个人进行伪造，也不允许隐匿原本的生成合成内容标识，任何组织和个人都不可以凭借不符合正当规范的标识手段去损害他人拥有的合法权益。
王云霞表明，要是视频平台充斥着诸多由AIGC制造出来的不实信息，那肯定会对平台自身的形象以及名誉产生影响，致使多方面出现有形与无形的损失；并且制造不实消息的发布者会因为侵犯他人名誉权、进行虚假宣传、未规范标识等违法行为而被追究相关法律责任。期望借助平台、用户的共同努力，促使AIGC技术在互联网行业里实现正向传导，发挥出更大的正向价值与作用。
小红书发布治理公告，对13个违规账号禁言处置
前两日之际，记者留意到，小红书之“薯管家”披露相关治理公告，此公告针对整治AI技术滥用事宜发布。其表明，为达清朗网络空间之目的，营造积极健康且文明和谐之社区环境，小红书积极呼应中央网信办以及上海市委网信办关于“清朗·整治AI技术滥用”专项行动要求，着重聚焦于利用AI批量制造虚假内容涨粉、借AI起号引流带货、售卖AI起号课程、售卖AI账号等违规行动展开专项整治工作，切实履行平台职责，深入清查违规问题 。本阶段具体治理情况如下：
采取措施针对“利用AI生成低俗猎奇视频”这一情况，针对“AI生成虚拟外国幼儿教育专家教授育儿内容”这一状况，针对“AI视频账号售卖教程”这一意涵，针对“AI账号秘籍传授”这一情形，针对“引导规避平台AI标注”这一行为，针对“转让、销售AI虚拟账号”等各类违规内容大力加强排查清理力度，总共清理违规内容265条，对@IU干跨境等13个违规用户施加禁言处置。与此同时严厉打击并治理转让、售卖、出租网络账号行为，着重加强AI生成内容监测甄别 。
往后，小红书会持续加大针对各类涉及AI生成相关违规行径的打击强度，持续升级并完善平台内部AI领域相关的内容治理能力，其中涵盖AI识别能力构建。欢迎小红薯们踊跃参与平台共同治理，在合理且合法运用AI进行创作之际，并且积极对AI生成内容予以标注声明（于 “ 自主声明 ” 勾选 “ 笔记含AI合成内容 ” ），进而让我们众人一同打造清朗、有序以及健康的网络生态环境 。
/strip/-error/1|"/>
按照记者通过采访得出的了解情况，当下，已经存在一部分的短视频平台着手试运行引进AI内容标识机制，针对上传的视频着力开展溯源以及分类管理之事。可是，在当下这个AI技术门槛渐渐降低、合成内容越发逼真的状况下，仅仅依靠技术手段是远远不足够的。记者留意到有网友留下话语提到，提议相关的社交媒体平台设立AI专区，予以区分，进行规范管理。
业内人士提醒，当中提到公众也要对自己的媒介素养予以提升。在面对看上去好像“专业”的短视频之际，千万不要盲目地去相信，而应该要去学会从官方权威渠道那里获取科普方面的信息。与此同时，也发出呼吁，教育、医疗等这些称得上专业的机构要强化正向引导，防止伪科普成为流量骗局的那种外衣 。
扬子晚报/紫牛新闻记者 范晓林 朱君贤
校对 盛媛媛
编辑 : 胡妍璐
直播带货培训
