生测数据分析中死亡率为0%以及100%的数据是应该删除

随笔6个月前发布 归玉
63 0 0

本文主要讨论生物测定数据处理过程中死亡率为0%以及100%的数据是应该删除

在毒理学领域,我们主要通过生物测定去明确一种物质对生物的毒力大小。对于杀虫剂而言,最广泛的指标就是致死中剂量LD50或致死中浓度LC50,即杀死50%试虫所需要的杀虫剂剂量或浓度。一般我们需要设置5-7个药剂剂量和1个溶剂对照,每个剂量处理一定数目的试虫,处理一定时间后检测死亡率。(这里假设溶剂对照没有死亡,不用校正)我们将死亡率根据概率值转换表转换为概率值,将剂量进行对数转化,以概率值为纵坐标、剂量对数为横坐标,就可以得到剂量对数-概率值曲线,也称毒力回归线。那么根据这条线进行反推,我们就能得到死亡率为50%时对应的剂量,即LD50。

生测数据分析中死亡率为0%以及100%的数据是应该删除

根据下面的例子我们可以看到根据DPS数据处理系统得到的LD50为3.71 ng/头,确实是符合预期的。但是大多数人往往容易忽略的一点是,死亡率为0%以及100%的数据是应该删除的,因为这两个点明显偏离回归线。

生测数据分析中死亡率为0%以及100%的数据是应该删除

生测数据分析中死亡率为0%以及100%的数据是应该删除

因此,我们比较了删除这两组数据后的线性回归拟合情况,结果表明删掉了这两组极端值后相关系数提高,p值降低,线性拟合程度更好。

生测数据分析中死亡率为0%以及100%的数据是应该删除

但是情况也不是绝对的,如果死亡率的梯度本身不好,极端值对拟合情况的影响也有可能时好时坏。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...