上海市网信办约谈筑梦岛APP运营企业 责令整改AI内容低俗问题

近日，针对近期媒体报道的筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容问题。“网信上海”微信公众号发布消息，经核实该平台AI智能体内容生成环节确有低俗擦边等违规内容，严重危害未成年人身心健康。

就此事件，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，责令平台即刻整改，并要求平台健全AI生成合成内容审核机制，提升技术把关能力，加大对涉未成年人不良内容的整治清理力度，切实履行未成年人网络保护义务。企业负责人则表示将严格按照约谈要求，全面排查并整改问题。

上海市网信办相关负责人强调，AI技术规范发展关乎网民切身利益。依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等法规，互联网平台应主动担起主体责任，平衡技术创新与内容合规，防范 AI 技术滥用，守护未成年人合法权益。

资料显示，筑梦岛APP出品出品方为上海筑梦岛人工智能科技有限公司出品，该公司隶属于阅文集团旗下。筑梦岛AP2023年上线，是一款AI虚拟人物沉浸式社交平台，可以为使用者提供“创造角色+深度对话+故事共创”的互动体验。今年热度较高的、定位相似的APP还有“猫箱”等。