立即注册找回密码

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

小桔灯网

小桔灯网 门户 资讯中心 专栏文章 研发视野 查看内容

IVD研发之产品诊断性能评估

2021-1-13| 编辑: 归去来兮| 查看: 326| 评论: 0|来源: IVD研发视野 |作者:溜溜NONO

摘要: 1.前言IVD产品从原料筛选、工艺优化、建立产品雏形到分析性能评估是否满足产品技术要求的开发过程属于医疗器械的验证,验证合格的产品不一定能满足临床需求,还需要经过确认后才能转换至生产。IVD产品确认通俗说是指 ...
1.前言 

IVD产品从原料筛选、工艺优化、建立产品雏形到分析性能评估是否满足产品技术要求的开发过程属于医疗器械的验证,验证合格的产品不一定能满足临床需求,还需要经过确认后才能转换至生产。IVD产品确认通俗说是指临床试验/临床评价/诊断性能评估,正规定义参照《YY/T 0287-2017 医疗器械质量管理体系用于法规的要求》确认是确保产品能够满足规定的应用要求或预期用途要求。
国内多数IVD厂家做临床试验方法是采用“试验用体外诊断试剂与已上市同类产品(对比试剂/对照试剂)进行比较研究,证明两者等效,从而间接证明试验用体外诊断试剂临床性能满足预期用途的要求”;较少厂家拥有独家产品,需要采用“对于新研制体外诊断试剂而言,选择适当的受试者,采用试验用体外诊断试剂与诊断该疾病的金标准进行盲法同步比较”。
下文主要介绍二种定量产品诊断性能评估的统计方法,第一种是与已上市产品进行比较确认诊断性能,通过Bland-Altman分析、回归分析、相关分析及医学决定水平处偏倚确认是否与比较产品具有等效性;第二种是与疾病诊断进行比较,使用ROC分析确认临床诊断性能。
统计分析不是单纯的根据数据进行计算,如果只是这个过程,通过软件可以很快完成,统计分析是工具,产品满足临床需求是目标,在进行统计分析前需要了解前期流程①定义临床问题→②选择代表研究样本→③建立每个受试者的临床状态→④检验被研究受试者→⑤最后使用适宜的统计分析方法评价检验的临床准确性。
定义临床问题:即产品说明书中的预期用途,是指检验项目在表面相似的受试者群组进一步细分为相关的管理亚群的能力(cTnI随时间变化幅度能否在慢性心脏病患者中区分出急性心肌梗死患者)。
选择代表性研究样本:根据临床问题确定合适的受试者群体,获得受试者群体有代表性的样本。
建立每个受试者的临床状态:对于临床准确性的客观评价需要比较结果,结果是由一些独立的,真实的外部定义的检验机构提供的(在高敏cTnI的临床试验中,所有受试者的诊断均由三名委员会认证的心脏病专家根据现行护理标准进行评判确定)。
在统计分析前还需要了解产品性能指标同时正确区分检验项目参考区间、临界值(cut off值医学决定界限)、危急值。
本文主要参考《体外诊断试剂临床试验指导原则(征求意见稿)》、《免于进行临床试验的体外诊断试剂同品种比对技术指导原则(征求意见稿)》、《GP10-A 使用ROC曲线评价临床试验的准确度》进行定义和流程的描述以及统计确认。

2.定量产品进行同品种比对临床试验

2.1试验设计

使用两种指定的cTnI检测系统,检测至少100例临床样本,阳性样本数超过50%,每个样本做一次重复检测。

2.2数据检查

在数据收集过程中,应对所有数据及时记录并检查。如确定某些异常结果由可解释的原因引起,应记录原因并将其排除出数据分析。如不能确定原因,须将原始结果保留在数据集中。

2.3数据分析

数据分析包括初步分析、Bland-Altman分析、回归分析、相关分析,统计分析流程是初步分析了解趋势→根据趋势和变异选择合适的回归分析→通过回归分析结果计算偏倚→判断偏倚是否可接受→BA分析一致性。
①初步分析:绘制散点图和差异图,对数据进行分析和审查,观察数据是否覆盖了线性/测量范围以及是否存在离群值,并初步了解试验用体外诊断试剂和对比试剂测量值之间的潜在变异特征,确定如何更好地表征这些差异。(散点图非常简单,此处不举例,差异图可见BA分析方法。)
②回归分析:应根据散点图和差异图判断数据是否满足相应的假设前提,并据此确定最佳的回归分析方法。常见的回归分析方法包括Deming回归、Passing-Bablok回归分析和最小二乘回归等。获得回归方程,计算斜率及截距的95%可信区间,计算医学决定水平的预期偏倚及其95%可信区间。(回归分析在试剂正确度评估、互通性评估也应用到,具体统计分析参见文章)正确度评估
溜溜NONO,公众号:IVD研发视野IVD研发之产品分析性能评估系列2---正确度

 ③ 评价试验用体外诊断试剂与对比试剂的偏倚
应通过区间估计评价试验用体外诊断试剂与对比试剂的偏倚。一般将医学决定水平处的预期偏倚及其95%可信区间与申请人声称的可接受偏倚的限值进行比较。可接受偏倚的限值或者由申请人咨询临床机构后根据临床需求设定,或者参考相关的国内外标准等设定。如果预期偏倚的95%可信区间未超出申请人声称的可接受偏倚的限值,说明试验用体外诊断试剂与对比试剂的检测结果没有显著的偏倚,二者等效。
除此之外,还可同时进行假设检验评价二者偏倚。一般对回归方程中的截距a和斜率b进行假设检验,判断试验用体外诊断试剂和对比试剂在线性/测量范围内的平均偏倚。
《免于进行临床试验的体外诊断试剂同品种比对技术指导原则(征求意见稿)》


④ Bland-Altman分析
两种方法的偏倚通过两方法测量结果差值的平均数d进行估计,平均数d的变异可以使用差值的标准差Sd来描述。如果两种方法的测量结果差值服从正态分布,则95%的差值应该落在[ d−1.96Sd ,d + 1.96 Sd ]之间,称为95%一致性界限(95% limits of agreement,95% LoA),当绝大多数差值位于该区间内,则可以认为这两种方法具有较好的一致性,可以互相代替。
Bland-Altman 图是反应数据一致性很简单直观的图示方法。Bland-Altman 方法的基本思想是计算两组测量结果的一致性界限,并用图像直观反应这个一致性界限。
在 Bland-Altman 图中,横轴表示两种方法测量每个样本的结果平均值,纵轴表示两种方法测量结果的差值。
下图可以直观地看到有5个点超出了95%置信区间,占比为3.9%,两种方法具有一致性。

  

3.与疾病诊断进行比较的ROC分析


ROC(receiver operating characteristic)起源于通讯领域,后在70年代引入医学界,ROC在检验项目的临床评价上有以下用途:

①确定某检验项目正常和异常的最佳临界值(cut off值);

②评价该检验项目的临床准确性(临床灵敏度和临床特异性);

③比较多个检测项目的临床准确性。

AUC(Area Under the Curve)是ROC曲线下方面积,是判断临床准确性的指标。ROC曲线下的面积值在1.0和0.5之间。

AUC越接近于1,说明诊断效果越好;

AUC在 0.5~0.7时有较低准确性;

AUC在0.7~0.9时有一定准确性;

AUC在0.9以上时有较高准确性。

AUC=0.5时,说明诊断方法完全不起作用,无诊断价值。

AUC<0.5不符合真实情况,在实际中极少出现。

ROC的统计可直接使用MedCalc和SPSS得出,详细的计算过程对ROC的理解更有益处,以cTnI测量的临床数据为例,使用excel进行ROC统计分析。

3.1试验案例

评估高敏cTnI检测系统是否能用于预测急诊科急性冠脉综合征(ACS)人群的近期及远期死亡、心肌梗死(MI)事件。

3.2数据检查

使用合适的方法剔除离群值 ,如Grubbs法,或是Deming回归比较法。离群值概率不超过5%,剔除后应补齐需要的20例临床样本数据。

3.3数据分析

① 根据临床试验数据统计预设临界值点的临床敏感性、临床特异性、临床误判率(1-特异性)。

②根据上述的临床试验统计结果绘制ROC图。

计算ROC曲线下面积,判定检测项目的临床准确性。

 ④通过将多个项目绘制在一个ROC图中,直观比较ROC下的面积,面积较大者具有更优的临床准确性

下图来源于《Sensitive Troponin I Assay in Early Diagnosis of Acute Myocardial Infarction》

https://www.nejm.org/doi/full/10.1056/NEJMoa0903515



THE END!
声明:
1、凡本网注明“来源:小桔灯网”的所有作品,均为本网合法拥有版权或有权使用的作品,转载需联系授权。
2、凡本网注明“来源:XXX(非小桔灯网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。其版权归原作者所有,如有侵权请联系删除。
3、所有再转载者需自行获得原作者授权并注明来源。

鲜花

握手

雷人

路过

鸡蛋

最新评论

关闭

官方推荐 上一条 /4 下一条

客服中心 搜索 官方QQ群 洽谈合作
返回顶部