R语言通过loess去除某个变量对数据的震慑。R语言通过loess去除某个变量对数码的影响。

by admin on 2018年10月5日

  当我们怀念研究不同sample的某变量A之间的出入时,往往会为任何一些变量B对拖欠变量的原影响,而影响不同sample变量A的比较,这个上用对sample变量A进行标准化后才能够进行比。标准化的点子是对准sample
的 A变量和B变量进行loess回归,拟合变量A关于变量B的函数
f(b),f(b)则表示在B的熏陶下A的驳斥取值,A-f(B)(A对f(b)残差)就好错过掉B变量对A变量的影响,此时残差值就可看作条件的A值当不同sample之间展开较。

  当我们纪念研究不同sample的某某变量A之间的出入时,往往会以其他一些变量B对该变量的故影响,而影响不比sample变量A的比较,这个时候需要针对sample变量A进行规范后才会拓展比较。标准化的法是对sample
的 A变量和B变量进行loess回归,拟合变量A关于变量B的函数
f(b),f(b)则意味以B的震慑下A的争辩取值,A-f(B)(A对f(b)残差)就得错过掉B变量对A变量的熏陶,此时残差值就可看做规范的A值当不同sample之间进行比。

Loess局部加权多项式回归

  LOWESS最初由Cleveland
提出,后又为Cleveland&Devlin及其余过多丁迈入。在R中loess
函数是坐lowess函数为底蕴的重复杂功能重新精的函数。主要考虑为:在数码集合的诸一点用低维多项式拟合数据点的一个子集,并估计该点附近自变量数据点所对应的坐变量值,该多项式是故加权最小二趁法来拟合;离该点越远,权重越聊,该点的回归函数值就是其一有多项式来赢得,而用于加权最小二乘胜回归的数目子集是出于多年来紧邻方法确定。
  最要命优点:不待事先设定一个函数来针对有数据拟合一个模型。并且可本着同数据开展反复异的拟合,先对某个变量进行拟合,再对其它一样变量进行拟合,以探索数据遭到或在的某种关系,这是屡见不鲜的回归拟合无法形成的。

Loess局部加权多项式回归

  LOWESS最初由Cleveland
提出,后以给Cleveland&Devlin及另不少人数进步。在R中loess
函数是盖lowess函数为根基之再扑朔迷离功能再强大的函数。主要想也:在数额集合的每一点因此低维多项式拟合数据点的一个子集,并估计该点附近自变量数据点所对应之盖变量值,该多项式是因此加权最小二乘法来拟合;离该点越远,权重越小,该点的回归函数值就是这局部多项式来获取,而用于加权最小二随着回归之数子集是由于多年来邻近方法确定。
  不过深长:不欲先设定一个函数来对持有数据拟合一个型。并且可以针对同样数据进行多次两样之拟合,先对某变量进行拟合,再指向其余一样变量进行拟合,以探讨数据被可能是的某种关联,这是寻常的回归拟合无法做到的。

LOESS平滑方法

  1.
以x0也主导确定一个距离,区间的升幅可以活掌握。具体来说,区间的增长率在q=fn。其中q是与部分回归观察值的个数,f是出席一些回归观察值的个数占观察值个数的百分比,n是观察值的个数。在其实使用被,往往先选定f值,再根据f和n确定q的取值,一般景象下f的取值在1/3及2/3里。q与f的取值一般没确定的律。增大q值或f值,会造成平滑值平滑程度有增无减,对于数据中前在的轻变化模式则分辨率低,但噪声小,而对数码中大的转移模式的表现则于好;小之q值或f值,曲线粗糙,分辨率高,但噪声大。没有一个标准的f值,比较明智的做法是连连的调节比较。
  2.
概念区间内所有点的权数,权数由权数函数来规定,比如立方加权函数weight =
(1 –
(dist/maxdist)^3)^3),dist为距离x的相距,maxdist为距离内距离x的太深距。任一点(x0,y0)的权数是权数函数曲线的冲天。权数函数应包括以下三只地方特色:(1)加权函数上的点(x0,y0)具有极其老权数。(2)当x离开x0(不时,权数逐渐压缩。(3)加权函数以x0否中心对称。
  3.
对区间内之散点拟合一漫漫曲线y=f(x)。拟合的直线反映直线关系,接近x0的触及当直线的拟合中由及首要的作用,区间外的点它的权数为零星。
  4.
x0的平滑点就是x0于拟合出来的直线上之拟合点(y0,f(
x0))。
  5. 针对有的点要出平滑点,将平滑点连接就落Loess回归曲线。

LOESS平滑方法

  1.
以x0啊基本确定一个间隔,区间的大幅度可以灵活掌握。具体来说,区间的涨幅在q=fn。其中q是与有回归观察值的个数,f是在场一些回归观察值的个数占观察值个数的比例,n是观察值的个数。在骨子里采用中,往往先选定f值,再根据f和n确定q的取值,一般情况下f的取值在1/3交2/3次。q与f的取值一般从不规定的规则。增大q值或f值,会招平滑值平滑程度大增,对于数据中前在的细小变化模式则分辨率低,但噪声小,而针对数码中大的变型模式之显现则于好;小的q值或f值,曲线粗糙,分辨率高,但噪声大。没有一个正式的f值,比较明智之做法是不停的调试比较。
  2.
定义区间内所有点的权数,权数由权数函数来确定,比如立方加权函数weight =
(1 –
(dist/maxdist)^3)^3),dist为距离x的距离,maxdist为距离内距离x的最好深距离。任一点(x0,y0)的权数是权数函数曲线的惊人。权数函数应包括以下三单方面特色:(1)加权函数上的点(x0,y0)具有无比要命权数。(2)当x离开x0(常常,权数逐渐回落。(3)加权函数以x0呢中心对称。
  3.
对区间内之散点拟合一条曲线y=f(x)。拟合的直线反映直线关系,接近x0的点当直线的拟合中打至第一的图,区间外之点它的权数为零星。
  4.
x0的平滑点就是x0在拟合出来的直线上之拟合点(y0,f(
x0))。
  5. 针对性持有的点请求来平滑点,将平滑点连接就落Loess回归曲线。

R语言代码

 loess(formula, data, weights, subset, na.action, model = FALSE,
       span = 0.75, enp.target, degree = 2,
       parametric = FALSE, drop.square = FALSE, normalize = TRUE,
       family = c("gaussian", "symmetric"),
       method = c("loess", "model.frame"),
       control = loess.control(...), ...)

  formula是公式,比如y~x,可以输入1暨4只变量;
  data是推广正变量的数据框,如果data为空,则当环境受到找;
  na.action指定对NA数据的拍卖,默认是getOption(“na.action”);
  model是否返模型框;
  span是alpha参数,可以决定平滑度,相当给面所陈述之f,对于alpha小于1的时光,区间涵盖alpha的触发,加权函数为立方加权,大于1时,使用所有的接触,最特别距离为alpha^(1/p),p
为解释变量;
  anp.target,定义span的备方式;
  normalize,对多变量normalize到同一scale;
  family,如果是gaussian则使用最小二乘法,如果是symmetric则利用对姑函数进行重复降低的M估计;
  method,是适应模型或就提取模型框架;
  control进一步再高级的支配,使用loess.control的参数;
  其它参数请自己参见manual并且查找资料

loess.control(surface = c("interpolate", "direct"),
          statistics = c("approximate", "exact"),
          trace.hat = c("exact", "approximate"),
          cell = 0.2, iterations = 4, ...)

  surface,拟合表面是于kd数进行插值还是进行标准计算;
  statistics,统计数据是标准计算还是近似,精确计算好缓慢
  trace.hat,要跟的平整的矩阵精确计算还是看似?建议下过1000单数据点逼近,
  cell,如果经过kd树最充分的触及开展插值的接近。大于cell
floor(nspancell)的点于细分。
  robust fitting使用的迭代次数。

predict(object, newdata = NULL, se = FALSE,
    na.action = na.pass, ...)

  object,使用loess拟合出来的对象;
  newdata,可选取数据框,在其间找变量并进行预测;
  se,是否算标准误差;
  对NA值的拍卖

R语言代码

 loess(formula, data, weights, subset, na.action, model = FALSE,
       span = 0.75, enp.target, degree = 2,
       parametric = FALSE, drop.square = FALSE, normalize = TRUE,
       family = c("gaussian", "symmetric"),
       method = c("loess", "model.frame"),
       control = loess.control(...), ...)

  formula是公式,比如y~x,可以输入1顶4单变量;
  data是加大正变量的数据框,如果data为空,则以条件中摸索;
  na.action指定对NA数据的处理,默认是getOption(“na.action”);
  model是否返模型框;
  span是alpha参数,可以控制平滑度,相当给面所陈述之f,对于alpha小于1底下,区间涵盖alpha的点,加权函数为立方加权,大于1时,使用具有的触及,最老距为alpha^(1/p),p
为解释变量;
  anp.target,定义span的准备方式;
  normalize,对多变量normalize到同一scale;
  family,如果是gaussian则用最小二就法,如果是symmetric则以对权函数进行重复降低的M估计;
  method,是适应模型或只提取模型框架;
  control进一步再高级的主宰,使用loess.control的参数;
  其它参数请好参见manual并且查找资料

loess.control(surface = c("interpolate", "direct"),
          statistics = c("approximate", "exact"),
          trace.hat = c("exact", "approximate"),
          cell = 0.2, iterations = 4, ...)

  surface,拟合表面是于kd数进行插值还是进行标准计算;
  statistics,统计数据是规范计算还是近似,精确计算好缓慢
  trace.hat,要跟的平整的矩阵精确计算还是看似?建议下超过1000单数据点逼近,
  cell,如果经过kd树最特别的触及开展插值的类似。大于cell
floor(nspancell)的点于细分。
  robust fitting使用的迭代次数。

predict(object, newdata = NULL, se = FALSE,
    na.action = na.pass, ...)

  object,使用loess拟合出来的目标;
  newdata,可挑选数据框,在里面找变量并开展预测;
  se,是否算标准误差;
  对NA值的处理

实例

  生物数据解析着,我们怀念翻PCR扩增出来的扩增子的测序深度以内的差距,但不同的扩增子的扩增效率受到GC含量之震慑,因此我们率先应破除掉GC含量对扩增子深度的熏陶。

实例

  生物数据解析中,我们怀念查PCR扩增出来的扩增子的测序深度以内的异样,但不同之扩增子的扩增效率受到GC含量的熏陶,因此我们率先应当解除掉GC含量对扩增子深度的震慑。

数据

amplicon
测序数据,处理后收获的每个amplicon的深,每个amplicon的GC含量,每个amplicon的尺寸
图片 1
预先用loess进行曲线之拟合

gcCount.loess <- loess(log(RC+0.01)~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)

描绘出拟合出来的曲线

predictions1<- predict (gcCount.loess,RC_DT$GC)
#plot scatter and line 
plot(RC_DT$GC,log(RC_DT$RC+0.01),cex=0.1,xlab="GC Content",ylab=expression(paste("log(NRC"["lib"],"+0.01)",sep="")))
lines(RC_DT$GC,predictions1,col = "red")

图片 2

取残差,去除GC含量对纵深的熏陶

#sustract the influence of GC
resi <- log(RC_DT$RC+0.01)-predictions1
RC_DT$RC <- resi
setkey(RC_DT,GC)

此时RC_DT$RC就是normalize之后的RC
画画图展示nomalize之后的RC,并以拟合的loess曲线和normalize之后的多少保存

#plot scatter and line using Norm GC data
plot(RC_DT$GC,RC_DT$RC,cex=0.1,xlab="GC Content",ylab=expression("NRC"["GC"]))
gcCount.loess <- loess(RC~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
save(gcCount.loess,file="/home/ywliao/project/Gengyan/gcCount.loess.Robject")
predictions2 <- predict(gcCount.loess,RC_DT$GC)
lines(RC_DT$GC,predictions2,col="red")
save(RC_DT,file="/home/ywliao/project/Gengyan/RC_DT.Rdata")

图片 3

自然,也想看一下amplicon 长度len 对RC的影响,不过影响不殊
图片 4

漫代码如下(经过修改,可能与地方了匹配):

library(data.table)

load("/home/ywliao/project/Gengyan/RC_DT.Rdata")
RRC_DT <- RC_DT[Type=="WBC" & !is.na(RC),]

lst <- list()
for (Samp in unique(RC_DT$Sample)){
RC_DT <- RRC_DT[Sample==Samp]
####loess GC vs RC####
gcCount.loess <- loess(log(RC+0.01)~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
predictions1<- predict (gcCount.loess,RC_DT$GC)
#plot scatter and line 
#plot(RC_DT$GC,log(RC_DT$RC+0.01),cex=0.1,xlab="GC Content",ylab=expression(paste("log(NRC"["lib"],"+0.01)",sep="")))
#lines(RC_DT$GC,predictions1,col = "red")
#sustract the influence of GC
resi <- log(RC_DT$RC+0.01)-predictions1
RC_DT$NRC <- resi
setkey(RC_DT,GC)
#plot scatter and line using Norm GC data
#plot(RC_DT$GC,RC_DT$NRC,cex=0.1,xlab="GC Content",ylab=expression("NRC"["GC"]))
gcCount.loess <- loess(NRC~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
predictions2 <- predict(gcCount.loess,RC_DT$GC)
#lines(RC_DT$GC,predictions2,col="red")
lst[[Samp]] <- RC_DT
}
NRC_DT <- rbindlist(lst)
save(RC_DT,file="/home/ywliao/project/Gengyan/NRC_DT.Rdata")

####loess len vs RC###
setkey(RC_DT,Len)
len.loess <- loess(RC_DT$NRC~RC_DT$Len, control = loess.control(surface = "direct"),degree=2)
predictions2<- predict (len.loess,RC_DT$Len)
#plot scatter and line 
plot(RC_DT$Len,RC_DT$NRC,cex=0.1,xlab="Length",ylab=expression(paste("log(RC"["GC"],"+0.01)",sep="")))
lines(RC_DT$Len,predictions2,col = "red")

数据

amplicon
测序数据,处理后收获的每个amplicon的吃水,每个amplicon的GC含量,每个amplicon的尺寸
图片 5
优先用loess进行曲线之拟合

gcCount.loess <- loess(log(RC+0.01)~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)

绘画生拟合出来的曲线

predictions1<- predict (gcCount.loess,RC_DT$GC)
#plot scatter and line 
plot(RC_DT$GC,log(RC_DT$RC+0.01),cex=0.1,xlab="GC Content",ylab=expression(paste("log(NRC"["lib"],"+0.01)",sep="")))
lines(RC_DT$GC,predictions1,col = "red")

图片 6

取残差,去除GC含量对纵深的震慑

#sustract the influence of GC
resi <- log(RC_DT$RC+0.01)-predictions1
RC_DT$RC <- resi
setkey(RC_DT,GC)

此时RC_DT$RC就是normalize之后的RC
写图展示nomalize之后的RC,并拿拟合的loess曲线和normalize之后的多少保存

#plot scatter and line using Norm GC data
plot(RC_DT$GC,RC_DT$RC,cex=0.1,xlab="GC Content",ylab=expression("NRC"["GC"]))
gcCount.loess <- loess(RC~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
save(gcCount.loess,file="/home/ywliao/project/Gengyan/gcCount.loess.Robject")
predictions2 <- predict(gcCount.loess,RC_DT$GC)
lines(RC_DT$GC,predictions2,col="red")
save(RC_DT,file="/home/ywliao/project/Gengyan/RC_DT.Rdata")

图片 7

自,也想看一下amplicon 长度len 对RC的熏陶,不过影响不深
图片 8

整整代码如下(经过改动,可能与地方了配合):

library(data.table)

load("/home/ywliao/project/Gengyan/RC_DT.Rdata")
RRC_DT <- RC_DT[Type=="WBC" & !is.na(RC),]

lst <- list()
for (Samp in unique(RC_DT$Sample)){
RC_DT <- RRC_DT[Sample==Samp]
####loess GC vs RC####
gcCount.loess <- loess(log(RC+0.01)~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
predictions1<- predict (gcCount.loess,RC_DT$GC)
#plot scatter and line 
#plot(RC_DT$GC,log(RC_DT$RC+0.01),cex=0.1,xlab="GC Content",ylab=expression(paste("log(NRC"["lib"],"+0.01)",sep="")))
#lines(RC_DT$GC,predictions1,col = "red")
#sustract the influence of GC
resi <- log(RC_DT$RC+0.01)-predictions1
RC_DT$NRC <- resi
setkey(RC_DT,GC)
#plot scatter and line using Norm GC data
#plot(RC_DT$GC,RC_DT$NRC,cex=0.1,xlab="GC Content",ylab=expression("NRC"["GC"]))
gcCount.loess <- loess(NRC~GC,data=RC_DT,control = loess.control(surface = "direct"),degree=2)
predictions2 <- predict(gcCount.loess,RC_DT$GC)
#lines(RC_DT$GC,predictions2,col="red")
lst[[Samp]] <- RC_DT
}
NRC_DT <- rbindlist(lst)
save(RC_DT,file="/home/ywliao/project/Gengyan/NRC_DT.Rdata")

####loess len vs RC###
setkey(RC_DT,Len)
len.loess <- loess(RC_DT$NRC~RC_DT$Len, control = loess.control(surface = "direct"),degree=2)
predictions2<- predict (len.loess,RC_DT$Len)
#plot scatter and line 
plot(RC_DT$Len,RC_DT$NRC,cex=0.1,xlab="Length",ylab=expression(paste("log(RC"["GC"],"+0.01)",sep="")))
lines(RC_DT$Len,predictions2,col = "red")

相关文章

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图