提高人工智能安全治理水平的探讨并实践“六个转变”

人工智能作为新一轮科技革命和产业变革的重要驱动力量，具有技术属性与社会属性高度融合的特点，在推动生产力发展的同时，也带来新的风险和挑战。习近平总书记强调：“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用。”党的二十届三中全会《决定》提出“完善生成式人工智能发展和管理机制”“建立人工智能安全监管制度”。坚持发展与治理、创新与安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序发展的迫切需要，也是推进国家治理体系和治理能力现代化的重要内容。

提高人工智能安全治理水平需从法律框架、技术研发、多方协作、伦理教育及国际合作五方面入手，构建系统性治理体系。以下从具体措施角度展开分析

一、构建法律框架与监管机制

制定专门性法律是治理的基础。需明确人工智能开发、部署各环节的责任主体，建立覆盖数据收集、算法设计、应用场景的全流程规范。例如，通过立法要求高风险AI系统(如自动驾驶、医疗诊断)必须通过安全评估与认证。同时，设立动态监管机制，针对生成式AI等新技术建立分级分类管理制度，确保法律适应技术发展速度。

二、强化安全技术研发能力

提升隐私计算、可解释算法等核心技术。发展联邦学习技术实现数据“可用不可见”，利用区块链技术建立算法决策追溯机制。构建AI安全测试平台，对深度伪造、算法歧视等风险进行模拟攻击测试。企业应建立“安全左移”机制，在研发初期嵌入安全设计，例如微软推出的AI安全风险检测框架Counterfit。

三、建立多方协同治理体系

政府需搭建企业、科研机构、公众的对话平台，建立联合实验室攻克共性技术难题。设立第三方审计机构，对AI系统进行独立评估认证。美国NIST的AI风险管理框架、欧盟的AI监管沙盒等实践表明，政企协同能有效平衡创新与安全。公众参与方面，可建立AI事故举报平台和意见反馈通道。

四、深化伦理教育与人才培养

高校应设置AI伦理必修课程，培养兼具技术能力和伦理意识的复合型人才。MIT的负责任AI课程体系值得借鉴，涵盖算法公平性、社会影响评估等内容。开展全民数字素养教育，通过科普活动提升公众对AI风险的辨识能力。建立行业伦理委员会，制定《人工智能伦理指南》等自律规范。

五、推动国际标准协同互认

参与ISO/IEC等国际标准制定，推动各国检测认证结果互认。在联合国框架下建立AI治理多边对话机制，协调数据跨境流动规则。借鉴欧盟《人工智能法案》与我国《生成式AI服务管理办法》的衔接经验，建立跨境争端解决机制。通过APEC、G20等平台分享治理经验，形成全球协同治理网络。

无论是微观层面的风险，中观层面的难点，还是宏观层面的压力，都亟待各方协同应对，以实现人工智能安全、稳健且可持续发展。应坚持问题导向，在治理模式上积极探索并实践“六个转变”，逐步实现高水平安全与高质量发展的良性互动。

一、从“政府主导”迈向“多元共治”，转变主体，凝聚合力。要积极构建政府、企业、科研机构、行业组织和公众多方参与的协同治理格局。网信部门发挥引领作用，制定政策与规则，搭建平台，牵头建立人工智能安全治理体系。主管部门在管行业的同时管安全，促进行业高质量应用和业务合规管理并举;企业履行主体责任，强化自律和能力建设，加强技术和应用创新，赋能千行百业;重点科研机构、高校、测评机构等贡献技术智慧，建设人工智能安全测评体系，提供公共安全供给;人工智能行业协会、互联网业联合会等行业组织发挥纽带监督功能，促进行业规范，加强交流与合作;鼓励公众积极参与监督与建言，举报不良情况，形成全民治理氛围。此外，主动投身国际人工智能治理进程，用好世界人工智能大会等平台，提升中国在全球人工智能治理中的影响力，携手共建国际安全治理网络。

二、从“单一管理”到“系统治理”，转变体系，统筹全局。人工智能安全涉及内容安全、网络安全、数据安全各层面和技术、法律、伦理多维度，与经济、文化、社会、公共卫生等各领域相关，需加强顶层设计，强化系统治理。支持企业在合法合规轨道上，突破新的技术路径，探索新商业模式;优化政策环境，提供产业和生态基金扶持，助力创业企业跨越发展“沟壑”;推动加强科研成果转化落地。强化各类人才引育和汇聚，提升行业整体技术与创新水平，为可持续发展注入“源动力”。针对党政机关、重点行业及企事业单位的高层、业务和技术人员，开展多层面针对性培训，正确理解人工智能的“能”与“不能”，为使用和管理夯实基础。通过媒体、网络、社区等渠道加强科普宣传和培训，增强公众理解、提高应用能力。加强安全教育，防范潜在风险，营造健康安全的社会环境。

三、从“技术至上”到“负责任创新”，转变导向，以人为本。加强算法备案和算法机理机制公示公开，督导各类算法服务平台保障所有用户的知情权、选择权、关闭权、个人信息删除权;推动个性化推荐算法增加信息提供的多样性、提升正能量内容精准有效的触达率;促进调度决策类算法尽可能公平公正地保障劳动者和消费者的权益;根据未成年人、老年人的特点，促进算法保护特殊群体的权益，推动算法向上向善。推动相关主体在技术创新过程中充分考虑伦理、社会影响和可持续性等问题。指导组建人工智能伦理委员会和行业伦理委员会，制定发布契合时代、技术发展和行业特点的伦理指南，防范滥用恶用，引领技术以人为本、智能向善，造福人民、保障公民权益。

四、从“事后应对”转向“事前预防”，转变理念，关口前移。在法律法规的大框架下，网信等部门牵头制定人工智能安全监管制度，推动安全关口前移。对具有舆论属性或社会动员能力的模型或服务，明确安全评估、算法备案等合规流程，提升模型安全性、算法透明度，提升公众的信任度。指导企业深化安全自评估，监管部门组织专业机构开展安全测试，确保模型在向公众提供服务前风险基本可控。当好安全治理知识的学习者、汇聚者、传播者，点面结合，持续深化人工智能安全框架、技术方法、实践经验的交流和专业供给，逐步提升行业的安全意识与能力。指导企业强化“三同步”，建立健全符合人工智能系统研发和应用特点的网络安全和数据安全管理制度，加强个人信息保护，保障数据全生命周期安全。各层面探索智能化的风险预警，提升实时监测与精准评估能力，及时发现潜在安全风险。指导企业建立可实操、应对各类风险的应急预案，定期演练，提升快速响应与处置突发事件能力，将风险影响控制在最小范围。

五、从“静态安全”进阶“动态安全”，转变策略，契合创新。依托持续监测与评估机制，定期复盘、动态调整安全措施，使其契合现实需求。例如，在重大活动保障期间，服务主体需提高安全阈值、加大安全投入，守牢安全底线;监管部门加强专项监测与监督管理。同时，动态安全需要具备一定的预见性和灵活性，能应对未来可能出现的新风险。指导模型企业强化内容安全能力，结合企业、模型、应用特点，在语料、模型、输入输出各层面，严防违法、虚假信息生成传播。防范排序精选、个性化推送算法操纵舆论和纯流量导向，守护网络空间风清气正。针对未依法开展安全评估、出现较大风险的，依法予以处置处罚，坚决守牢安全底线。在严守安全底线的前提下，为技术创新预留一些“弹性空间”，激发创新活力、驱动产业升级;借助科学管理手段和技术创新，深化敏捷治理，保障安全与社会稳定。

六、从“传统治理”升级“智能治理”，转变方法，赋能安全。支持科研机构、高校、有能力的企业，持续加大对算法、架构创新、安全对齐、芯片等核心技术研发投入，突破技术瓶颈，筑牢安全基础。推进人工智能安全技术标准化进程，构建自主可控技术体系。坚持极限思维，加快技术自主创新、供应链安全可控，提升人工智能的宏观安全。汇聚专业力量，搭建集成安全测评、技术咨询、安全能力等多元功能的安全公共服务平台，为行业整体安全能力提升赋能。激励企业、科研机构等开展安全技术研发应用，形成创新“生态群”，为安全治理注入持久动力。

初级注册安全工程师备考人员，为了帮助考生及时获得报名和考试信息，小编建议考生立即填写本文顶部提供 免费预约短信提醒服务，届时会及时通知考生初级注册安全工程师报名时间、考试时间，请及时预约。

已进入初级安全工程师备考阶段，小编为考生提供免费资料，点击下列文字即可获知，供考生学习。

点击查看>>2025年初级注册安全工程师《安全生产法律法规》考试大纲

点击查看>>2025年初级注册安全工程师《安全生产实务》考试大纲

可点击直接获取>>初级注册安全工程师《安全生产法律法规》三色笔记

可点击直接获取>>初级注册安全工程师《建筑施工安全》三色笔记

可点击直接获取>>初级注册安全工程师《化工安全》三色笔记

可点击直接获取>>初级注册安全工程师《其他安全》三色笔记

备考初级安全工程师的人员可以通过做题进行查漏补缺，可点击下列图片进入初级注册安全工程师章节习题、模拟试题的在线练习。

以上就是“提高人工智能安全治理水平的探讨”相关内容，小编已上传更多2025年初级安全工程师考试大纲、考点、模拟题及历年真题等资料，大家可以点击下方按钮免费下载使用。