辛小天、江智茹：人工智能科技伦理审查十问十答
2026年7月下旬，在2026世界人工智能大会暨人工智能全球治理高级别会议上，工业和信息化部会同有关部门正式发布《国际人工智能伦理治理行动计划》。该计划明确要求将伦理考量嵌入科学研究、技术开发、产品部署及运营维护的全过程，并强调治理重点并非抽象技术本身，而是人工智能系统全生命周期中衍生的各类现实风险。这一举措标志着全球人工智能治理正从原则倡导走向制度落地，也为各国构建可操作、可追溯的伦理审查体系提供了重要参照。
在国际共识不断凝聚的同时，我国人工智能伦理治理的法治建设亦在加速推进。《中华人民共和国科学技术进步法》《关于加强科技伦理治理的意见》《科技伦理审查办法（试行）》以及《人工智能科技伦理审查与服务办法（试行）》等法律法规和规范性文件相继施行，使人工智能科技伦理审查从学术倡议上升为法定要求。
基于此，本文拟以问答形式，聚焦我国《科技伦理审查办法（试行）》《人工智能科技伦理审查与服务办法（试行）》等相关规定的核心要求，就监管落地与企业合规应对进行具体梳理和分析，以期为相关单位提供务实参考。
一、人工智能科技伦理审查范围？
在《科技伦理审查办法（试行）》已将人工智能相关科技活动纳入高风险科技活动伦理审查框架的基础上，《人工智能科技伦理审查与服务办法（试行）》进一步明确了人工智能科技伦理审查的适用范围，主要包括两个维度：
1. 人工智能研发维度的科技活动：即在我国境内开展的、可能在人的尊严、公共秩序、生命健康、生态环境及可持续发展等方面带来科技伦理风险挑战的人工智能科学研究与技术开发等活动。
2. 法定监管维度下的“其他科技活动”：作为兜底性条款，指向依据法律、行政法规和国家有关规定要求必须进行人工智能科技伦理审查的其他科技活动。
二、哪些属于实施清单管理的科技活动？
《科技伦理审查办法（试行）》规定，对可能产生较大伦理风险挑战的新兴科技活动实施清单管理。列入清单的科技活动，须经双重审查程序：单位初步审查通过后，还需报请所在地方或相关行业主管部门组织专家复核，复核同意后方可实施，并应在获得伦理审查批准后，于国家科技伦理管理信息登记平台完成登记。
在此基础上，《人工智能科技伦理审查与服务办法（试行）》进一步明确，“需要开展科技伦理专家复核的人工智能科技活动清单”由工业和信息化部、科技部会同有关部门制定发布，并根据工作需要进行动态调整。当前公布的清单项目（或称“高风险项目”）包括：
（1）人机融合系统的研发：对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；
（2）具有舆论社会动员能力的算法模型等的研发：具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；
（3）高自主度自动化决策系统的研发：面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。
其中，关于“具有舆论属性或社会动员能力”的认定属于实务合规的焦点与难点。依据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条，具备该属性的互联网信息服务主要涵盖两种情形：（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。实践中，生成式人工智能（AIGC）服务由于直接面向不特定公众开放，且具备强大的公域信息生成与广泛传播功能，通常会被监管机构视为具有明显的“舆论属性或社会动员能力”，从而纳入本清单管理范围。
三、人工智能伦理审查的责任主体是谁？人工智能科技伦理委员会的设立要求是什么？
《人工智能科技伦理审查与服务办法（试行）》明确，高等学校、科研机构、医疗卫生机构、企业等是人工智能科技伦理审查管理的责任主体。前述责任主体应当依法设立人工智能科技伦理委员会（简称“委员会”），同时，必须为委员会提供人力、场所和经费支持，确保其可以独立开展伦理审查工作。
关于委员会的章程制定、组织构成、委员职责及义务等具体事项，则依照《科技伦理审查办法（试行）》的相关规定执行。
在组成结构方面，具体要求如下：
四、人工智能伦理审查与申请专家复核的责任主体如何界定？
根据《人工智能科技伦理审查与服务办法（试行）》的规定，人工智能科技伦理审查分为“初步审查”与“专家复核”两个阶段，其实施与申请主体根据单位性质及合作情况实行分类管理：
1. 科技伦理审查的实施主体（由谁开展初审）
在开展人工智能科技活动前，应当依据具体情形匹配适用的审查实施机构：
（1）本单位自行审查：已依法设立人工智能科技伦理委员会的责任主体，由本单位的委员会直接负责开展科技伦理审查工作；
（2）委托服务中心审查：若单位未设立委员会，或者现有委员会无法胜任相关科技伦理审查工作要求，必须向本单位委托的专业人工智能科技伦理审查与服务中心（简称“服务中心”）申请开展审查；
（3）无单位人员审查：对于无所属单位的人员（独立研究者等）从事相关科技活动，应当委托符合要求的服务中心开展审查。
2. 专家复核的申请主体与上报路径（由谁申请复核）
对于被纳入《需要开展科技伦理专家复核的人工智能科技活动清单》（即“复核清单”）的高风险活动，在通过本单位委员会或委托服务中心的初步审查后，必须依法申请专家复核。具体申请主体及上报路径如下：
◈一般规定：通常由本单位负责申请专家复核；
◈多单位协作：多个单位联合参与的科技活动，由牵头单位负责汇总并统一申请。
◈中央与国际机关直属单位：中央企业，以及中央和国家机关直属的高等学校、科研机构、医疗卫生机构等，直接报请相关主管部门组织开展专家复核。
◈其他地方单位：其他各类单位，应当报请所在地方的主管部门开展专家复核。(注：地方或相关主管部门在受理复核申请后，可自主组织专家组，也可委托专业的”服务中心”具体实施复核工作。)
五、如何开展伦理审查？
根据《科技伦理审查办法（试行）》及相关专项规定，单位在开展科技活动前须首先进行内部的科技伦理风险评估。经评估属于必须开展审查的科技活动范围的，由科技活动负责人向本单位科技伦理（审查）委员会提交详细申请材料。委员会将根据申请材料决定是否受理，并向申请人下达通知。
根据科技活动伦理风险发生的可能性、风险程度以及是否处于紧急状态，《人工智能科技伦理审查与服务办法（试行）》将人工智能科技伦理审查程序划分为以下五大类，并辅以跟踪审查机制实施全生命周期动态监管，具体如下：
六、伦理审查的内容和标准是什么？
科技伦理审查坚持“促进创新与防范风险相统一”的总体导向。在具体实施中，审查内容主要分为“通用审查标准”与“人工智能专项审查重点”两个层面：
1. 通用科技伦理审查标准
根据《科技伦理审查办法（试行）》第十五条，科技伦理（审查）委员会应对拟开展的科技活动进行全面审查，评估标准主要涵盖以下方面：
◈原则与条件合规：拟开展的科技活动须符合增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明等科技伦理五项原则；参与科技活动的科技人员资质、研究基础及设施条件等符合相关要求。
◈价值与风险平衡：拟开展的科技活动具有科学价值和社会价值，其研究目标的实现对增进人类福祉、实现社会可持续发展等具有积极作用；科技活动的风险受益合理。
◈风险防控与应急管理：伦理风险控制方案及应急预案科学恰当、具有可操作性。
◈数据与算法的专项治理：涉及数据和算法的科技活动，数据的收集、存储、加工、使用等处理活动及数据新技术研究符合国家数据安全和个人信息保护等有关规定，数据安全风险监测及应急处理方案得当；算法、模型和系统的设计、实现、应用等遵守公平、公正、透明、可靠、可控等原则，符合国家有关要求，伦理风险评估审核和应急处置方案合理，用户权益保护措施全面得当。
◈利益冲突管理：所制定的利益冲突申明和管理方案合理。
◈其他法定审查内容：涉及以人为研究参与者、实验动物、数据和算法等情形的，还应依法审查相应内容。
2. 人工智能科技伦理专项审查重点
在满足通用审查标准的基础之上，依据《人工智能科技伦理审查与服务办法（试行）》第十五条，开展人工智能科技伦理审查必须重点关注以下六大维度：
◈在人类福祉方面：评估人工智能科技活动是否具有科学价值、社会价值；研究目标对增进人类福祉、实现社会可持续发展等是否具有积极作用；科技活动的风险受益是否合理。
◈在公平公正方面：审查训练数据的选择标准，以及算法、模型、系统的设计是否合理；是否采取了有效措施防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性。
◈在可控可信方面：核查是否能够保障模型、系统的鲁棒性，以应对开放环境、极端情况和干扰性因素；是否能够保障使用者控制、指导和干预模型及系统的基本操作；是否制定了持续监测方案与突发状况处理预案。
◈在透明可解释方面：审查是否合理披露了算法、模型、系统的用途、运行逻辑、交互方式说明及潜在风险等信息；是否采用了有效技术手段提升算法、模型和系统的可解释性。
◈在责任可追溯方面：评估是否具备日志管理等措施，能够清楚记录数据、算法、模型、系统各环节的充分信息，以保障全链路可追踪和管理；参与科技活动的科技人员资质等是否符合相关要求。
◈在隐私保护方面：核实数据的收集、存储、加工、使用等处理活动，以及研究开发数据新技术等全生命周期中，是否采取了充分的措施确保个人隐私数据得到有效保护。
七、单位还需要履行哪些平台登记和报告义务？
为加强对科技伦理的动态监管，国家建立了统一的”国家科技伦理管理信息登记平台”（https://service.most.gov.cn，以下简称”登记平台”）。科技部与相关主管部门通过该平台对人工智能科技伦理的登记信息实现同步共享。
根据《科技伦理审查办法（试行）》及《人工智能科技伦理审查与服务办法（试行）》的规定，设立委员会的责任主体（如高校、科研机构、企业等）以及服务中心，必须严格履行以下三项法定登记与报告义务：
1. 委员会设立的初始登记（30日内）
◈时限要求：单位在设立委员会后的30日内，必须通过登记平台完成系统登记。
◈登记内容：主要包括委员会的组成、章程、工作制度等。相关内容发生变化时，应及时在平台更新。
2. 高风险科技活动的审批登记（30日内）
◈时限要求：对于纳入《需要开展科技伦理专家复核的人工智能科技活动清单》的高风险项目，在依法获得伦理审查批准后的30日内，单位必须通过登记平台进行项目登记。
◈登记内容：主要包括科技活动的实施方案、伦理审查与复核情况等，相关内容发生变化时应及时更新。
3. 常态化的年度工作报告（每年3月31日前）
◈时限要求：单位及服务中心必须于每年3月31日前向登记平台提交上一年度的履职及活动实施情况报告。
◈报告内容：主要包括上一年度委员会（或服务中心）的工作报告，以及纳入清单管理的高风险人工智能科技活动的实施情况报告等。
八、人工智能伦理工作违规的法律后果是什么？
在人工智能科技活动或开展相关伦理审查工作的过程中，各单位及科技人员必须严守合规底线。违规行为的查处实行”多法协同、穿透问责”的综合惩戒机制：
1. 多法协同的综合调查与处罚机制
在人工智能科技活动或开展相关伦理审查工作的过程中，违反《人工智能科技伦理审查与服务办法（试行）》规定的，依照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国科学技术进步法》等法律法规和相关规定，进行调查处理，并给予相应处罚。
2. 具体违规惩戒措施（以《科学技术进步法》为例）
《科学技术进步法》明确，进行违背科技伦理的科学技术研究开发和应用活动，或从事科学技术活动违反科学技术活动管理规范的，将可能面临以下处罚：由有关主管部门责令限期改正，并可以追回有关财政性资金，给予警告或者通报批评，暂停拨款、终止或者撤销相关财政性资金支持的科学技术活动；情节严重的，由有关主管部门向社会公布其违法行为，依法给予行政处罚和处分，禁止一定期限内承担或者参与财政性资金支持的科学技术活动、申请相关科学技术活动行政许可、取消一定期限内财政性资金支持的科学技术活动管理资格；对直接负责的主管人员和其他直接责任人员依法给予行政处罚和处分等。
九、我国人工智能行业的伦理审查近期监管动态及企业实践落地情况？
在国家层面，在《人工智能科技伦理审查与服务办法(试行)》出台后，2026年4月底，工业和信息化部办公厅印发《关于实施人工智能科技伦理审查与服务先导计划的通知》，在北京、上海、广东、山东、天津、四川、江苏、湖北、湖南、浙江等地率先启动先导计划。该先导计划实施周期为2026年6月1日至11月30日，重点任务包括建立符合地方实际的人工智能伦理治理工作机制、建设人工智能科技伦理委员会和人工智能科技伦理审查与服务中心、验证人工智能科技伦理审查程序和标准等。与此同时，人工智能伦理安全标准体系也持续完善，2026年5月，全国网络安全标准化技术委员会发布《人工智能应用伦理安全指引1.0》，为相关主管部门、行业组织和有关机构推进人工智能伦理安全治理提供参考。
在地方层面，各地正在探索人工智能伦理审查服务体系建设。例如，北京市于2026年4月明确表示将人工智能作为该市”全链条科研诚信治理体系”的重点，建设区域伦理审查与服务中心，在2026年组织研究制定人工智能研发、应用等具体活动的科技伦理规范和通用大模型等前沿技术的伦理审查标准；对算法治理及人机融合系统，以及侵入式脑机接口用于神经、精神类疾病治疗的临床研究等科技活动，进一步做好伦理审查与服务工作。此外，北京前瞻人工智能安全与治理研究院成立人工智能科技伦理委员会及人工智能科技伦理审查与服务中心，面向政府、科研机构和产业主体提供人工智能科技活动伦理审查、复核、培训、咨询及伦理对齐优化等服务。江苏省南京市鼓楼区于2026年7月建设落地江苏省首个人工智能科技伦理审查与服务中心，该中心作为南京落实人工智能科技伦理审查与服务先导计划的重要载体，定位于为江苏及长三角地区人工智能企业、高校和科研机构提供伦理审查、合规指导、标准支撑等服务。
在企业实践层面，国内部分人工智能头部企业正在积极探索建立内部人工智能治理机制，通过设立科技伦理委员会、人工智能治理委员会或相关专项治理组织，对人工智能研发和应用过程中的伦理风险、安全风险及合规风险开展评估和管理。头部企业亦日益重视对外披露治理进展，主要形式包括发布专门的伦理治理年度报告或白皮书，将相关内容嵌入年度ESG/可持续发展报告等。例如，蚂蚁集团已设立科技伦理委员会及科技伦理顾问委员会，围绕人工智能治理、大模型安全等领域开展伦理研究和治理实践，并通过常态化伦理会议披露治理成果，其目前已形成“组织（Organization）+标准（Standards）+工具（Tools）+知识（Knowledge）”四位一体的科技伦理治理体系，重点在医疗和金融等场景探索大模型治理与负责任产品创新；同时将科技伦理原则融入技术研发全链路，倡导“AI向善”理念。百度已成立科技伦理委员会，围绕伦理风险管控、人机价值对齐、个人隐私保护、人工智能能力开放、伦理意识培养以及行业交流合作等方面推进人工智能伦理治理工作，在其发布的最新ESG报告中，百度将“负责任AI”与数据安全、内容生态治理等共同列为最高重大性的核心议题，通过确立AI伦理理念、构建AI伦理管理框架、开展科技伦理审查及伦理培训等持续推动AI安全、可信与可持续发展。商汤科技成立“人工智能伦理与治理委员会”，并发布人工智能伦理治理年度报告、伦理与治理宣传手册等，建立覆盖产品全生命周期的风险控制机制，建设内部“全球AI伦理风险库”，从算法、数据以及社会影响三个方面对人工智能技术研发和产品应用中的伦理风险进行评估和管理。腾讯等企业也已发布负责任人工智能治理原则，推动将人工智能安全、伦理和合规要求融入研发、部署及运营等环节。
总体来看，企业人工智能治理实践正由单一安全管理逐步向涵盖伦理审查、风险评估、透明性、公平性、隐私保护和持续监测的综合治理体系发展，并逐步探索落实将伦理要求嵌入人工智能产品全生命周期管理流程。
注：全球AI伦理监管/执法典型案例，请见附件。
十、相关企业如何开展合规应对？
随着国家人工智能科技伦理审查与监管体系逐步完善，企业（尤其是大模型开发者、人工智能服务提供者及涉及高风险应用场景的企业）应切实履行科技伦理管理主体责任，将科技伦理治理全面纳入人工智能产品研发与运营的全生命周期。建议重点从以下六个维度开展合规建设：
1. 依法落实伦理审查组织保障（设立委员会或委托审查）
企业应依据自身研发活动的敏感程度及合规能力，明确伦理审查的实施主体：
（1）自行设立委员会：具备条件的企业应依法设立本单位的委员会，制定详细的委员会章程，建立健全伦理审查、监督、保密管理、档案管理及利益冲突回避等工作规程，并建立针对突发事件的科技伦理应急审查制度。
（2）委托服务中心审查：未具备条件设立委员会或现有委员会无法胜任相关审查工作要求的企业，应依法向地方或相关主管部门建立的专业性人工智能科技伦理审查与服务中心申请代为审查。
2. 精准核查高风险清单并严格履行复核路径
（1）对照清单自查：企业在立项或开展拟办项目前，必须严格对照国家最新发布的《需要开展科技伦理专家复核的科技活动清单》进行排查，重点识别研发项目是否落入”对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统”“具有舆论社会动员能力或社会意识引导能力的算法模型”以及”面向高危场景的高度自主自动化决策系统”等清单范围。
（2）履行专家复核：对于落入高风险清单的项目，企业必须坚决杜绝“未审先发”，须严格遵循“双重审查”路径——在通过本单位或受托服务中心的初步审查后，必须依法报请所在地方或相关行业主管部门组织专家开展复核，通过复核后方可实施。
3. 将伦理风险识别与评估嵌入产品全生命周期
企业应将伦理风险评估机制无缝嵌入人工智能技术从基础研发到商业化运营的全流程：
（1）研发与设计环节：遵从科技伦理基本原则，强化数据来源的合法性与质量控制，提升数据真实性与准确性，防范数据集偏见；在算法设计上增强系统的透明度、鲁棒性、公平公正性与可解释性等。
（2）部署与使用环节：充分向用户说明技术局限与潜在风险，设置人工紧急干预机制，严防技术的误用、滥用与恶用等。
（3）运营与维护环节：建立持续的风险监测预警方案、算法违法违规处置机制与突发状况应急处理预案等。
4. 严格履行平台登记与年度报告法定义务
为配合监管部门的信息共享与动态监督，企业必须在指定时间节点通过”国家科技伦理管理信息登记平台”完成以下动作：
（1）日常登记：在设立委员会后的30日内完成委员会信息登记；在纳入复核清单的高风险科技活动获得审查批准后的30日内，完成登记。
（2）年度报告：须于每年3月31日前，向登记平台提交上一年度的委员会工作报告及高风险活动实施情况报告。
5. 强化全员科技伦理素养与业务培训
企业应将科技伦理教育培训纳入科技人员入职及承担重点科研任务的日常管理考核中。定期面向伦理委员会委员开展审查业务培训，面向一线研发与产品人员开展科技伦理合规知识培训，引导从业人员自觉遵守科技向善的伦理底线与合规要求。
6. 建立长效动态跟踪审查与档案留存机制
科技伦理审查实行全过程动态监管模式。企业应对已获批的科技活动进行定期跟踪审查（常规项目跟踪间隔不超过12个月，高风险项目不超过6个月）。同时，妥善留存所有科技活动审查的申请、评估报告、审查决定及会议记录等材料，保障全链路可追溯。此外，企业应密切关注人工智能科技伦理审查相关立法的演进与监管动态，及时升级内部合规方案以作出敏捷响应。
附：全球AI伦理监管/执法典型案例
❖部分内容由AI生成
作者简介：
辛小天，合伙人
数字经济与人工智能业务中心总监
辛小天律师为深圳市司法局、深圳市律师协会、深圳市涉外律师领军人才，广东省律师协会数字经济法律专业委员会副主任，创新人才教育研究会安全与发展专业委员会智库专家，东莞仲裁委员会仲裁员，深耕数据和网络安全法律服务领域，获得2025年钱伯斯“数据保护和隐私”推荐律师、律新社2024数据合规领域品牌之星“实力律师”、2024GRCD“网络安全与数据保护”中国客户首选合规律师、中国通信学会第一届网络空间安全战略与法律委员会委员、中南财经政法大学数字经济研究院、金融科技研究院高级研究员等多项荣誉和资质。辛小天律师目前带领的专业律师团队为房产、能源、智能制造、电子、车联网、大数据、金融、物流、电商领头企业提供全套数据合规法律服务。
擅长领域：数据合规、TMT合规、融资并购、公司常规维护及公司内控。
手机：13911159437
邮箱：xinxiaotian@deheheng.com
江智茹，执业律师
曾就职于微软亚太研发集团(实习)和奇虎360。自加入北京德和衡（深圳）律师事务所以来，已为多家大型央国企、知名跨国公司及头部科技公司提供常年法律顾问服务及境内外数据合规专项服务等，服务客户覆盖数据安全、房地产、能源、电商、游戏、工业及车联网等行业领域。
擅长领域：网络安全与数据合规、数字资产、人工智能、互联网产品合规、电子商务等。
手机：13810669648
邮箱：jiangzhiru@deheheng.com