Агрегировать / суммировать несколько переменных для каждой группы (например, сумма, среднее значение)

Есть ли простой способ агрегировать (sum, mean, max и т. Д.) Несколько переменных одновременно из фрейма данных?

Ниже приведены некоторые примеры данных:

library(lubridate)
days = 365*2
date = seq(as.Date("2000-01-01"), length = days, by = "day")
year = year(date)
month = month(date)
x1 = cumsum(rnorm(days, 0.05)) 
x2 = cumsum(rnorm(days, 0.05))
df1 = data.frame(date, year, month, x1, x2)

Я хотел бы одновременно агрегировать переменные x1 и x2 из фрейма данных df2 по годам и месяцам. Следующий код агрегирует переменную x1, но можно ли одновременно агрегировать переменную x2?

### aggregate variables by year month
df2=aggregate(x1 ~ year+month, data=df1, sum, na.rm=TRUE)
head(df2)

Любые предложения будут ценны.


person MikeTP    schedule 15.03.2012    source источник


Ответы (8)


Откуда эта year() функция?

Вы также можете использовать пакет reshape2 для этой задачи:

require(reshape2)
df_melt <- melt(df1, id = c("date", "year", "month"))
dcast(df_melt, year + month ~ variable, sum)
#  year month         x1           x2
1  2000     1  -80.83405 -224.9540159
2  2000     2 -223.76331 -288.2418017
3  2000     3 -188.83930 -481.5601913
4  2000     4 -197.47797 -473.7137420
5  2000     5 -259.07928 -372.4563522
person EDi    schedule 15.03.2012
comment
Функция recast (также из reshape2) объединяет функции melt и dcast за один раз для таких задач: recast(df1, year + month ~ variable, sum, id.var = c("date", "year", "month")) - person Jaap; 13.05.2016

Да, в вашем formula вы можете cbind агрегировать числовые переменные:

aggregate(cbind(x1, x2) ~ year + month, data = df1, sum, na.rm = TRUE)
   year month         x1          x2
1  2000     1   7.862002   -7.469298
2  2001     1 276.758209  474.384252
3  2000     2  13.122369 -128.122613
...
23 2000    12  63.436507  449.794454
24 2001    12 999.472226  922.726589

См. ?aggregate, аргумент formula и примеры.

person Andrie    schedule 15.03.2012
comment
Может ли cbind использовать динамические переменные? - person pdb; 13.11.2015
comment
Стоит отметить, что когда любая из переменных в cbind имеет NA, строка будет удалена для каждой переменной в cbind. Это не то поведение, которого я ожидал. - person pdb; 13.11.2015
comment
что, если я вместо x1 и x2 хочу использовать все оставшиеся переменные (кроме года, месяца) - person Clock Slave; 16.03.2016
comment
@ClockSlave, тогда вам нужно просто использовать . на LHS. aggregate(. ~ year + month, df1, sum, na.rm = TRUE). В этом примере sum для даты не имеет смысла .... - person A5C1D2H2I1M1N2O1R2T1; 21.03.2016
comment
Что, если мне нужны не две переменные, а две функции? Например среднее и сд. - person skan; 14.04.2016
comment
В случае NAs такой подход действительно проблематичен. Установка na.rm = TRUE ни на что не влияет, NA случаи игнорируются ... - person DatamineR; 23.06.2017
comment
@andrie. Использование . в интерфейсе формулы, упомянутое недавно в комментариях, вероятно, стоит добавить к ответу. - person lmo; 13.07.2017
comment
Есть ли способ выполнять разные функции (например, mean, max, min и т. Д.) Для каждой из разных переменных в cbind? - person theforestecologist; 30.04.2018
comment
могу ли я использовать вектор имен в cbind.? cbind(x1,x2,x3) работает. Но x=c(x1,x2,x3); cbind(x)~ выдает Variable lengths differ ошибку - person sjd; 10.07.2020

Использование пакета data.table, который работает быстро (полезно для больших наборов данных)

https://github.com/Rdatatable/data.table/wiki

library(data.table)
df2 <- setDT(df1)[, lapply(.SD, sum), by=.(year, month), .SDcols=c("x1","x2")]
setDF(df2) # convert back to dataframe

Использование пакета plyr

require(plyr)
df2 <- ddply(df1, c("year", "month"), function(x) colSums(x[c("x1", "x2")]))

Использование summarize () из пакета Hmisc (хотя в моем примере заголовки столбцов беспорядочные)

# need to detach plyr because plyr and Hmisc both have a summarize()
detach(package:plyr)
require(Hmisc)
df2 <- with(df1, summarize( cbind(x1, x2), by=llist(year, month), FUN=colSums))
person numbercruncher    schedule 15.03.2012
comment
почему бы не сделать это для параметра data.table: dt[, .(x1.sum = sum(x1), x2.sum = sum(x2), by = c(year, month)? - person Bulat; 13.10.2018

С пакетом dplyr вы можете использовать функции summarise_all, summarise_at или summarise_if для одновременного агрегирования нескольких переменных. Для примера набора данных вы можете сделать это следующим образом:

library(dplyr)
# summarising all non-grouping variables
df2 <- df1 %>% group_by(year, month) %>% summarise_all(sum)

# summarising a specific set of non-grouping variables
df2 <- df1 %>% group_by(year, month) %>% summarise_at(vars(x1, x2), sum)
df2 <- df1 %>% group_by(year, month) %>% summarise_at(vars(-date), sum)

# summarising a specific set of non-grouping variables using select_helpers
# see ?select_helpers for more options
df2 <- df1 %>% group_by(year, month) %>% summarise_at(vars(starts_with('x')), sum)
df2 <- df1 %>% group_by(year, month) %>% summarise_at(vars(matches('.*[0-9]')), sum)

# summarising a specific set of non-grouping variables based on condition (class)
df2 <- df1 %>% group_by(year, month) %>% summarise_if(is.numeric, sum)

Результат двух последних вариантов:

    year month        x1         x2
   <dbl> <dbl>     <dbl>      <dbl>
1   2000     1 -73.58134  -92.78595
2   2000     2 -57.81334 -152.36983
3   2000     3 122.68758  153.55243
4   2000     4 450.24980  285.56374
5   2000     5 678.37867  384.42888
6   2000     6 792.68696  530.28694
7   2000     7 908.58795  452.31222
8   2000     8 710.69928  719.35225
9   2000     9 725.06079  914.93687
10  2000    10 770.60304  863.39337
# ... with 14 more rows

Примечание. summarise_each устарел в пользу summarise_all, summarise_at и summarise_if.


Как упоминалось в моем комментарии выше, вы также можете использовать функцию recast из reshape2-пакета:

library(reshape2)
recast(df1, year + month ~ variable, sum, id.var = c("date", "year", "month"))

что даст вам тот же результат.

person Jaap    schedule 16.10.2015

Интересно, что метод data.frame базового R aggregate здесь не показан, выше используется интерфейс формулы, поэтому для полноты:

aggregate(
  x = df1[c("x1", "x2")],
  by = df1[c("year", "month")],
  FUN = sum, na.rm = TRUE
)

Более общее использование метода агрегата data.frame:

Поскольку мы предоставляем

  • data.frame как x и
  • a list (data.frame также list) как by, это очень полезно, если нам нужно использовать его динамически, например использование других столбцов для агрегирования и агрегирования очень просто
  • также с настраиваемыми функциями агрегирования

Например так:

colsToAggregate <- c("x1")
aggregateBy <- c("year", "month")
dummyaggfun <- function(v, na.rm = TRUE) {
  c(sum = sum(v, na.rm = na.rm), mean = mean(v, na.rm = na.rm))
}

aggregate(df1[colsToAggregate], by = df1[aggregateBy], FUN = dummyaggfun)
person Jozef    schedule 27.12.2018
comment
Во-первых, это криминально недооцененный ответ, спасибо за это. Во-вторых, как вы думаете, можно ли сгенерировать aggregate функцию, которая вычисляет mean для данного набора переменных и sum для другого набора переменных? Мне это действительно интересно, и это может сэкономить мне много времени. Еще раз спасибо. - person Álvaro A. Gutiérrez-Vargas; 04.12.2020

В dplyr версии ›= 1.0.0 мы также можем использовать summarise для применения функции к нескольким столбцам с across

library(dplyr)
df1 %>% 
    group_by(year, month) %>%
    summarise(across(starts_with('x'), sum))
# A tibble: 24 x 4
# Groups:   year [2]
#    year month     x1     x2
#   <dbl> <dbl>  <dbl>  <dbl>
# 1  2000     1   11.7  52.9 
# 2  2000     2  -74.1 126.  
# 3  2000     3 -132.  149.  
# 4  2000     4 -130.    4.12
# 5  2000     5  -91.6 -55.9 
# 6  2000     6  179.   73.7 
# 7  2000     7   95.0 409.  
# 8  2000     8  255.  283.  
# 9  2000     9  489.  331.  
#10  2000    10  719.  305.  
# … with 14 more rows
person akrun    schedule 05.01.2020
comment
это сейчас на CRAN :) - однако, похоже, есть проблемы с производительностью при использовании через - (что я могу подтвердить на своих данных), здесь связанный поток github.com/tidyverse/dplyr/issues/4953 - person tjebo; 01.10.2020

Чтобы получить более гибкий и быстрый подход к агрегированию данных, ознакомьтесь с функцией collap в пакете collapse R, доступном в CRAN:

library(collapse)
# Simple aggregation with one function
head(collap(df1, x1 + x2 ~ year + month, fmean))

  year month        x1        x2
1 2000     1 -1.217984  4.008534
2 2000     2 -1.117777 11.460301
3 2000     3  5.552706  8.621904
4 2000     4  4.238889 22.382953
5 2000     5  3.124566 39.982799
6 2000     6 -1.415203 48.252283

# Customized: Aggregate columns with different functions
head(collap(df1, x1 + x2 ~ year + month, 
      custom = list(fmean = c("x1", "x2"), fmedian = "x2")))

  year month  fmean.x1  fmean.x2 fmedian.x2
1 2000     1 -1.217984  4.008534   3.266968
2 2000     2 -1.117777 11.460301  11.563387
3 2000     3  5.552706  8.621904   8.506329
4 2000     4  4.238889 22.382953  20.796205
5 2000     5  3.124566 39.982799  39.919145
6 2000     6 -1.415203 48.252283  48.653926

# You can also apply multiple functions to all columns
head(collap(df1, x1 + x2 ~ year + month, list(fmean, fmin, fmax)))

  year month  fmean.x1    fmin.x1  fmax.x1  fmean.x2   fmin.x2  fmax.x2
1 2000     1 -1.217984 -4.2460775 1.245649  4.008534 -1.720181 10.47825
2 2000     2 -1.117777 -5.0081858 3.330872 11.460301  9.111287 13.86184
3 2000     3  5.552706  0.1193369 9.464760  8.621904  6.807443 11.54485
4 2000     4  4.238889  0.8723805 8.627637 22.382953 11.515753 31.66365
5 2000     5  3.124566 -1.5985090 7.341478 39.982799 31.957653 46.13732
6 2000     6 -1.415203 -4.6072295 2.655084 48.252283 42.809211 52.31309

# When you do that, you can also return the data in a long format
head(collap(df1, x1 + x2 ~ year + month, list(fmean, fmin, fmax), return = "long"))

  Function year month        x1        x2
1    fmean 2000     1 -1.217984  4.008534
2    fmean 2000     2 -1.117777 11.460301
3    fmean 2000     3  5.552706  8.621904
4    fmean 2000     4  4.238889 22.382953
5    fmean 2000     5  3.124566 39.982799
6    fmean 2000     6 -1.415203 48.252283

Примечание. Вы можете использовать базовые функции, такие как mean, max и т. д., с collap, но fmean, fmax и т. д. представляют собой сгруппированные функции на основе C ++, предлагаемые в пакете collapse, которые значительно быстрее (т. е. производительность для больших агрегатов данных то же самое, что и data.table, но обеспечивает большую гибкость, и эти быстрые сгруппированные функции также могут использоваться без collap).

Примечание2: collap также поддерживает гибкую агрегацию многотипных данных, которую вы, конечно, можете сделать с помощью аргумента custom, но вы также можете применять функции к числовым и нечисловым столбцам полуавтоматическим способом:

# wlddev is a data set of World Bank Indicators provided in the collapse package
head(wlddev)

      country iso3c       date year decade     region     income  OECD PCGDP LIFEEX GINI       ODA
1 Afghanistan   AFG 1961-01-01 1960   1960 South Asia Low income FALSE    NA 32.292   NA 114440000
2 Afghanistan   AFG 1962-01-01 1961   1960 South Asia Low income FALSE    NA 32.742   NA 233350000
3 Afghanistan   AFG 1963-01-01 1962   1960 South Asia Low income FALSE    NA 33.185   NA 114880000
4 Afghanistan   AFG 1964-01-01 1963   1960 South Asia Low income FALSE    NA 33.624   NA 236450000
5 Afghanistan   AFG 1965-01-01 1964   1960 South Asia Low income FALSE    NA 34.060   NA 302480000
6 Afghanistan   AFG 1966-01-01 1965   1960 South Asia Low income FALSE    NA 34.495   NA 370250000

# This aggregates the data, applying the mean to numeric and the statistical mode to categorical columns
head(collap(wlddev, ~ iso3c + decade, FUN = fmean, catFUN = fmode))

  country iso3c       date   year decade                     region      income  OECD    PCGDP   LIFEEX GINI      ODA
1   Aruba   ABW 1961-01-01 1962.5   1960 Latin America & Caribbean  High income FALSE       NA 66.58583   NA       NA
2   Aruba   ABW 1967-01-01 1970.0   1970 Latin America & Caribbean  High income FALSE       NA 69.14178   NA       NA
3   Aruba   ABW 1976-01-01 1980.0   1980 Latin America & Caribbean  High income FALSE       NA 72.17600   NA 33630000
4   Aruba   ABW 1987-01-01 1990.0   1990 Latin America & Caribbean  High income FALSE 23677.09 73.45356   NA 41563333
5   Aruba   ABW 1996-01-01 2000.0   2000 Latin America & Caribbean  High income FALSE 26766.93 73.85773   NA 19857000
6   Aruba   ABW 2007-01-01 2010.0   2010 Latin America & Caribbean  High income FALSE 25238.80 75.01078   NA       NA

# Note that by default (argument keep.col.order = TRUE) the column order is also preserved
person Sebastian    schedule 16.04.2020

Поздно на вечеринку, но недавно нашел другой способ получить сводную статистику.

library(psych) describe(data)

Будет выводиться: среднее, минимальное, максимальное, стандартное отклонение, n, стандартная ошибка, эксцесс, асимметрия, медиана и диапазон для каждой переменной.

person britt    schedule 15.08.2018
comment
Вопрос в том, чтобы делать агрегаты по группам, но describe ничего не делает по группам ... - person Gregor Thomas; 17.06.2019
comment
describe.by(column, group = grouped_column) сгруппирует значения - person britt; 20.06.2019
comment
Хорошо, тогда вставь это в ответ! Не скрывайте это в комментариях! - person Gregor Thomas; 20.06.2019