抖音官方10月25日发布《抖音严厉打击利用AI骗取老年人互动的治理公告》。
抖音官方表示，鼓励创作优质内容，包括采用AI技术进行辅助创作，但所创作内容必须遵循平台规范。平台对利用生成式人工智能技术创作和发布违背科学常识、弄虚作假、造谣传谣的内容进行持续打击。
近期平台发现，有账号不当利用AI技术，生成小和尚、军人、AI女性等虚拟形象，却不在内容中进行AI标注提示，并采用特定话术，引诱老年人点赞、关注、发布评论，甚至进行导流获利，平台进行了严厉处置。
其中，典型行为包括：
1、生成小和尚形象，说出“我发现你身边有块绊脚石，我打算给你搬走”“如果觉得小和尚说得对，送给小和尚一朵小红花吧”等话语，利用迷信、心灵鸡汤等内容，骗取老年人互动。
2、生成军人形象，以“娘，别滑走，孩子想和您谈谈心”亲爱的母亲，我正在执行任务，给我一点鼓励”“告诉你一个小秘密，点一下我头像下面的小加号”等口吻，利用军人正面形象及老年人想念子女心理，骗取老年人互动。
3、生成AI女性形象，以“大叔，感谢你又来看妹妹了，如果再送我一朵花我会感动一整天”“听说你很厉害，很多美女都喜欢你”“我会做饭、做家务、能聊天，你愿意把我带回家吗”等情感话术诱导，骗取老年人互动。
抖音方面表示，以上内容，严重违反了平台规则。针对使用AI生成虚拟人物发布违规内容的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。
[免责声明]如需转载请注明原创来源;本站部分文章和图片来源网络编辑，如存在版权问题请发送邮件至398879136@qq.com，我们会在3个工作日内处理。非原创标注的文章，观点仅代表作者本人，不代表炎黄立场。
