南都AI伴侣乱象调查续:平台再表态重点清理低俗色情等内容
东方财富资讯君
2026-07-13 10:34:11
  • 8
  • 评论
  •   ♥  收藏
  • A
    分享到:
来源:南方都市报

  《人工智能拟人化互动服务管理暂行办法》即将施行。7月13日,南都N视频记者注意到,“筑梦岛”App发布公告称,正在持续推进产品与社区内容治理工作,将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行调整。南都此前推出《AI虚拟伴侣乱象调查》,揭露部分应用未成年人模式虚设、身份核验失效等乱象。

图片

  “筑梦岛”App发布的公告。

  “筑梦岛”App发布公告称,“将不断完善未成年人模式,规范使用时段和时长,丰富适合未成年人的优质内容池;持续优化实名认证和年龄识别机制,提升对未成年人身份的识别能力;进一步收口不适宜的功能展示,减少可能对未成年人造成干扰或误导的产品入口。”

  “筑梦岛”表示,“不鼓励未成年人消费,会继续排查和收口未成年人相关消费场景,在保障余额查询、历史订单查询、退款处理等必要权益的前提下,优化相关限制和提醒机制。”

  此外,“筑梦岛”在公告中还提及,将加强内容审核和存量回扫。对梦中人的名称、人设、头像、签名、标签、聊天场景和二创内容加强审核,重点清理低俗色情、不良亚文化等隐蔽化不良内容,以及其他不符合平台规范的内容;对存量内容分批回扫,持续净化社区生态;同时,将规范AI生成内容标识及升级投诉举报机制。

  国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行,对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。

  南都记者此前实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现,这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞:“青少年模式”可一键跳过,“AI生成”标注不清,App系统预设角色中有大量袒胸露乳的女性人物,聊天中充斥着具有性暗示的低俗话语,部分App还惯用“付费解锁亲密剧情”等方式诱导消费等。

  调查发布后持续推动行业整改,助力“矫正”AI虚拟伴侣服务:属地网信部门介入,多个涉事平台进行合规升级并强化实名认证及年龄确认,多地消委会高度关注并呼吁规范相关服务。

  5月29日,“筑梦岛”平台所属地上海市网信办工作人员回应南都记者称,针对报道涉及的情况,已移交给对接AI企业的部门处理。“筑梦岛”此前还曾因虚拟角色生成低俗内容被依法约谈。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-61278686 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:4000300059/952500