应确保科技活动符合道德和伦理原则

《科技伦理审查办法(试行)》十二月一日实施 专家认为

应保证科研活动合乎道德与伦理规范

□ 报志愿见习记者 丁一

□ 本报讯记者 文晓梅

前不久，国家科技部、国家教育部、工信部等10部门联合印发《科技伦理审查办法(试行)》(下称《审查办法》)，将在2023年12月1日起实施。《审查办法》将涉及人工智能技术、算法和模型设计方案、本人数据处理方法在内的科研活动纳入监管范围，标准科研、科研开发等活动的高新科技伦理审查工作中，加强科技伦理风险管控。

所说高新科技伦理审查，指的是对技术研发、运用、营销推广等全过程所进行的伦理性评估和监管，其主要目标是保证科研活动合乎道德与伦理规范，保护人的利益，防止或消除很有可能的负面影响。

《审查办法》有什么特点？如何推进健全高新科技伦理审查管理体系？《法治日报》记者就此走访了北京协和医学院历史人文和社会科学学院专家教授张新庆和清华大学科技水平发展与治理研究中心主任助手陈天昊。

知情同意列入核查

《审查办法》选用“一般例举(4项)+权威专家核查活动清单(7项)”的形式确定了要进行高新科技伦理审查的活动范围，和需要运行权威专家复核程序风险较高科研活动。或者将“涉及到以人为本科学研究参加者科研活动，包含以人为本检测、调研、观查等课程研究对象，以及利用人们生物样本、个人资料数据信息等科研活动”纳入审核范畴，核查的重点内容与标准有“所提供同意书内容完整、风险告知客观性充足、描述清楚通俗易懂，获得本人知情同意的方法和全过程合规管理适当”。

那么如何去评判一份同意书内容完整、风险告知客观性充足、思路清晰？核查同意书的什么信息？会不会出现试验者搞不懂专业名词问题？

对于此事，张新庆分析认为：“在伦理审查环节中，需要注意审批项目申请书中同意书书写是否到位、是不是包含伦理审查的文件里要求的基本内容。与此同时，应当向科学研究参加者表述，让他们可以了解、自愿地参加，慎重考虑且自行再决定是否参加此项科学研究，并且参与环节中随时随地都可以随意退出。”

陈天昊说，前沿研究必定涉及到专业名词，学者要最好用通俗的语言让试验者凭着基本常识能理解。原理是同行评议的核心，而非知情同意的核心。知情同意的重点内容也是需要试验者了解此项科学研究有什么风险性、什么盈利、持续多久等，这些都是核查关键。

针对群众最关注的核查行为主体泄露个人信息、生物学特性等信息的概率，陈天昊觉得，个人信息保护法为科技创新领域根据个人信息进行优化提出了一般性的标准引导，但是该引导怎样在科技创新领域落地式，还存在很多可解释性空间。

“为适当均衡合规要求和创新要求，科技主管部门可以选择颁布专门合规管理手册，优化人工智能及电子信息技术行业产品研发采集个人信息的合规要求，如通过什么样的方式进行全面通知、何种程度里的变动必须重新得到允许、在学术场景中达到怎样的要求才达到个人信息保护法所规定的容许解决比较敏感个人信息‘严苛保障措施’及其‘特殊的目的和充足的重要性’等。”陈天昊说。

谨慎看待伦理道德风险性

记者在《审查办法》里看到，当需要进行伦理审查核查科技活动清单中，有一项是“面对存有安全性、人身健康风险性等场所的具有很强的自主学习能力的自动化决策支持系统”。这就意味着，假如一款产品能够通过分析总体目标工作人员和周边群体的神情、和行为，推断出如公共性游泳馆里的人是不是面对危险，进而鉴别少年儿童是否存在呛到、溺水的很有可能，也要进行伦理审查。

张新庆进一步解释说，在泳游池自动化技术管理决策系统的研究设计环节，学者有可能会做对照组。对照实验组是一组在水浅、没有风险的泳池中游泳的青少年儿童，这群人并没有落水风险性；实验组是一组在河略微深，且暗流涌动的水域游泳的年轻人，这群人有很高的溺水的风险性。学者根据低倍监控摄像头观查这两组小朋友的神情、姿态和呼救信号等并进行统计。自然，试验不会真让孩子溺水，一旦孩子呛到会立刻紧急救援。

试验能够收集小孩脸部情绪并研究面部表情和落水所发生的逻辑关系，最终算出孩子溺水的几率。录入信息并分析之后，学者可以做存在于泳池中应用的app，一旦泳池中小孩姿势、神情产生变化存有潜在性风险，电子计算机会自动警报。

需注意，让青少年参与此项有一定风险的落水试验必须事先得到法定代表允许并签订同意书。假如学者期待儿童参与试验，就需要论述为什么必须年龄较小的小孩参与试验。除此之外，还要表明试验的结构设计、研究价值、对受试者的潜在性风险及其潜在性获益。

“伦理审查与开展研究并不冲突，事实上，伦理审查为科研服务保障。《审查办法》当下最弹力，清单上列出了通过学术界异议并不大、评定觉得有很高的伦理道德风险七类技术性，未来还能够补充。这也不是将该类技术性加入黑名单，反而是理应更加注重这种科技的伦理问题，以谨慎的心态来看待她们。”张新庆说。

“《审查办法》对这类自主创新提出了更高的核查规定，是因为它将人的一生、身心健康这种更为本质上的利益交给机器进行‘自动化技术管理决策’。专家产品研发自动化技术管理决策商品，提早置入的伦理道德逻辑是什么？其自身是否满足社会发展在一般意义上的伦理道德希望？”陈天昊说，因此，引进公众监督、进行社会讨论、寻找普遍共识，就变得尤为重要。将来的法律法规和规章制度，应当在涉及以上核心理念问题的时候搭建制度化的人际交往体制，推动的共识达到。

夯实核查监督责任

依据《审查办法》，高等院校、科研院所、医疗机构、公司等作为核查行为主体，而且开设科技伦理(核查)联合会，推行联合会验证体制，确立审查程序、监管。

陈天昊觉得，这也是夯实科技伦理管理方法监督责任的重要措施。《审查办法》对联合会如何运作进行了一般性的、结构性的标准，如达到什么样的条件能够审理，哪种前提下可用一般审查程序或简单审查程序，及其什么情况下还需要提供外部专家进行复核等，构建了制度结构。

在张新庆看起来，对于一些可以建立但是还没有创建高新科技伦理审查委员会的行业和单位，最紧要的是要完成从零到有些提升，拥有伦理审查委员会才会对验证体制加强规范。高新科技伦理审查委员会验证体制通过认证进行统一具体指导、统一监管，主要目的是确保医药学及文档涉及其他领域，创建联合会的审查质量与建设规范的规范性。

“伦理审查的目的是通过他律维护受试者的支配权，通过成立联合会，为研究内容进行研究价值和社会价值的伦理审查来保证科学研究参加者利益，并且也维护保养医学科学合理研发与遵照伦理原则之间的关联。”张新庆说。

针对如何保障高新科技伦理审查的独立自主，张新庆以为，靠的是机制和体制确保。最先伦理审查委员会委员会需具有很高的专业素养和伦理道德素质；次之联合会人员配备要具有合乎《审查办法》规定，既有专业人员、生命伦理权威专家，还需要有法律人等。在审查项目过程中，还需要降低来源于新项目申请人自己、所属组织领导和朋友等因素的干扰，如果出现利益输送情况的，伦理审查委员会的委员会要“逃避”。除此之外，伦理委员会以法人代表承担责任，若伦理审查不合规，要把责令整改等工作落实到法人主体上。伦理审查委员会要把人员配备、管理制度等方面向医疗卫生主管部门备案，依照需要提供本年度伦理审查汇报。

“《审查办法》对权威专家核查体制、科技主管部门严格监管权利安排，很可能遭遇信息不对称的问题，将来还应当逐渐扩大高新科技伦理审查的公开化、透光性、参与度，在认证体系中置入信誉度体制，以信誉体制遴选出具有充足独立性和专业的联合会。”陈天昊说。(法治日报)