热搜资讯界面新闻记者 |
界面新闻编辑 | 文姝琪
今年，利用AI技术伪造名人代言、带货的虚假广告让越来越多消费者感到困扰。
比如，北京市场监管局近日通报了查处某公司利用AI技术冒用央视知名主持人发布虚假广告的案件。通报显示，该公司在直播间销售的深海多烯鱼油产品，实际执行标准为糖果，属于普通食品，不具备疾病治疗功能。同时，直播间出现的央视主持人李梓萌的形象为AI技术伪造生成。
实际上，AIGC带来的广告乱象还有很多。一些分辨能力较弱的群体成为了这些广告乱象的受害者。
在抖音旗下营销服务平台巨量引擎举办的商业安全开放日上，巨量引擎商业安全治理标准负责人项韵对界面新闻表示，在广告领域，AI衍生出来的问题并不想大家想象得那么简单。“很多从业者原本认为AI带来的仅仅是广告素材合规方面的问题，但从实际出现的案例来看，AI结合到每一个行业，都可能产生一个新的问题。”
通过收集、分析抖音平台的违规广告案例，项韵表示，AIGC给广告营销带来的风险主要包括三大类：违背公序良俗、侵权和虚假。
这三类风险在过去的广告营销中同样存在，但在项韵看来，AIGC让创造素材变得更容易，不仅让风险的严重性提升，也让平台对违规问题的识别变得困难。
类似的挑战在抖音内容生态治理中同样存在。面对AIGC带来谣言激增、人工识别困难的问题，抖音在内容生态治理上采用“以魔法打败魔法”的方式，引入AI大模型技术进行违规内容研判、处置，取得了一定的成效。在AIGC带来的违规广告营销问题上，抖音同样引入了AI大模型等技术手段进行治理。
据界面新闻了解，使用技术手段治理违规广告营销比治理违规内容更为复杂。平台除了需要研判广告营销内容是否违规之外，还需要研判商家资质、后续履约等一列环节是否存在违规。
抖音在治理违规广告营销时，一方面通过前置的研判识别商家资质以及违规广告素材。项韵表示，平台从商家资质、广告内容以及内容表达三方面设置了防线。同时，针对违规行为，平台设置了预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系。
在开放日现场，抖音展示了平台自研的交互式审核系统，该系统依托自研多模态大模型，审核效率比传统时代提升75%。对于涉及违规的广告，大模型还能快速提供拒审理由，告知违规内容出现在视频中的具体时间点或具体画面。根据抖音方面公布的数据，今年第三季度，平台已前置拦截涉AI违规素材84万余个。
另一方面，抖音也在探索通过技术手段识别广告履约和后链路的问题。巨量引擎商业安全治理策略负责人郭泽斌对界面新闻表示，广告履约包括实物交易、虚拟物品交易以及线下服务三种类型，履约过程可能涉及虚假宣传、不良暗示等违规问题。
但这些问题都涉及消费者体验，使用技术手段研判时，很难像研判违规广告素材内容一样通过设定明确的规则来实现。抖音探索的治理方案是把用户的每一条评论、每一次举报都转化为可落地的治理依据。为此，其研发了广告CCR 指标（消费者抱怨指数），整合用户评论、举报、投诉等多维负反馈并数字化、可视化，这在广告行业也是首创。
郭泽斌透露，平台根据用户反馈整理出了4级风险体验标签，包括广告内容问题、广告履约问题、广告分发问题以及其他问题，平台会通过CCR指标来量化和定性。其中，针对广告履约问题，平台还会通过广告监察员去做线下核验和固定。针对涉及后链路欺诈的客户，平台会直接进行清退。
同时，老年人、未成年等特定群体在遭遇广告后链路问题时可能面临着风险识别和维权方面的挑战，平台还提供了专项保障服务。用户可通过抖音广告客服热线或通过抖音APP内“广告客服”专属入口直达人工服务，反映相关问题。
在开放日活动上，抖音方面试图传达的信息就是技术成为治理的核心驱动力。在巨量引擎商业安全产品负责人潘荻看来，过去，平台在治理违规广告营销内容的底线是安全，经常存在“宁可错杀一千，不可放过一个有害内容”的问题。技术提升了平台精确治理的能力，避免了误杀行为对广告主造成的影响，这将会带来平台变现效率的提升。
