卓创源码网6月13日消息,据“网信上海”官方公众号通报,上海市委网信办公布了“清朗·整治AI技术滥用”专项行动第一阶段工作成果。
通报显示,在此次专项行动中,上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台,集中清理了涉及“一键脱衣”、未经授权的人脸/人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。各重点网站和AI平台共拦截清理相关违法违规信息82万余条,处置违规账号1400余个,下线违规智能体2700余个。
此外,上海市委网信办还对33款已完成备案登记、提供医疗健康、金融、教育、情感陪伴服务的AI应用开展了督导检查。要求相关应用完善行业领域安全审核和控制机制,加强专业知识库和检索增强能力建设,提升输出准确性,防范其虚假、误导性内容或诱导沉迷对患者、投资者、未成年人等群体造成不良影响。
后续,上海市委网信办将启动专项行动第二阶段工作,聚焦AI造谣、低俗内容等7类突出问题加大整治力度,持续维护网络生态。

请登录后查看评论内容