为进一步促进生成式人工智能创新发展和规范应用，加快推动上海人工智能发展高地建设取得新的更大突破，市委网信办组织筹划了“大模型发展和安全”专题系列沙龙活动。
12月26日下午，由市委网信办主办，徐汇区委网信办、徐汇区新型工业化推进办公室、上海市人工智能行业协会承办，上海市信息安全测评认证中心、上海市互联网业联合会人工智能专委会、上海大模型生态发展有限公司协办的第六期沙龙活动，在“模速空间”创新生态社区举行。
随着人工智能技术的飞速发展，大模型技术对传统产业数智化转型与数实融合发挥着巨大的推动作用，成为产业升级和创新的核心力量。但与此同时，大模型面临的恶意操控、内容合规、算法与隐私安全攻击等问题也日渐凸显，带来新的安全风险与挑战。
目前，大模型备案是确保人工智能技术健康发展和市场公平竞争的重要措施。其核心目的在于事前风险管控，确保AI大模型在正式投入市场前已满足国家安全标准及合规要求，有效预防潜在危害。
写逸与来自上海和部分外地省市的160余家人工智能相关企业，近200人共同参加，现场就生成式人工智能服务备案的困惑和实践等进行了热烈交流。
此次沙龙市委网信办、徐汇区新型工业化办、上海市人工智能行业协会分别就生成式人工智能服务备案管理政策要求、徐汇区大模型产业的发展情况及相关政策、大模型行业发展状况等进行了介绍。同时邀请上海市信息安全测评认证中心专家就《生成式人工智能服务备案-如何做好安全评估》进行专题分享。
生成式人工智能服务管理暂行办法
数据合规：使用具有合法来源的数据和基础模型，确保训练数据的合法性、准确性和质量。制定并执行符合要求的数据标注规则，对标注人员进行必要培训，提升遵法守法意识，监督指导标注人员规范开展标注工作。
服务规范：相关主体应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
安全评估与算法备案：提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
用户投诉与反馈机制：建立健全的用户投诉和反馈机制，及时处理用户的投诉和举报。
监督检查与配合：积极配合有关主管部门的监督检查，提供必要的技术、数据等支持和协助。
写逸相信，通过备案制度可以促进人工智能技术的健康发展，为公众提供高质量的智能服务，与同行们共同建立起一个既安全又可靠的人工智能服务体系！