r - 去除 R 中的异常值

Question

我查看了一组数据并决定删除异常值会很好，异常值的定义是与平均值相差 2SD。

如果我有一组数据，比如 500 行具有 15 个不同的属性，我如何删除所有具有 1 个或多个属性的行，这些属性与平均值相差 2 个标准差？

有没有一种简单的方法可以使用 R 来做到这一点？谢谢，

Answer 1

可能有很多方法，并且可能会添加包来处理这个问题。我建议你先试试这个：

library(sos); findFn("outlier")

scale这是一种方法，您可以使用可以标准化向量的函数来完成您的要求。

#create a data set with outliers
set.seed(10)
dat <- data.frame(sapply(seq_len(5), function(i) 
    sample(c(1:50, 100:101), 200, replace=TRUE)))

#standardize each column (we use it in the outdet function)
scale(dat)

#create function that looks for values > +/- 2 sd from mean
outdet <- function(x) abs(scale(x)) >= 2
#index with the function to remove those values
dat[!apply(sapply(dat, outdet), 1, any), ]

因此，在回答您的问题时，是的，有一种简单的方法可以将执行此操作的代码归结为 1 行代码：

dat[!apply(sapply(dat, function(x) abs(scale(x)) >= 2), 1, any), ]

我猜有一个包可以做到这一点，甚至更多。该sos软件包非常棒（恕我直言），可以找到执行您想要的功能。

Answer 2

na.rm = TRUE, ...) {
qnt <- quantile(x, probs=c(.25, .75), na.rm = na.rm, ...)
H <- 1.5 * IQR(x, na.rm = na.rm)
y <- x
y[x < (qnt[1] - H)] <- NA
y[x > (qnt[2] + H)] <- NA
y
}