详解Java Stream的分组和聚合

译文
开发 前端
学习使用 Java Stream更快地解决问题,它使我们能够高效地处理大量数据。

译者 | 翟珂

审校 | 孙淑娟 梁策

当我们将一个集合中的元素分组后,我们可以对分组内元素的字段进行聚合,执行有意义的操作,帮助我们分析数据。比如相加,取平均数,或最大/最小值。此外,还可以用Java Stream和Collectors轻松完成这些字段的聚合。文档中提供了这些计算的简单例子。

当然,还有更复杂的聚合,如加权平均数、几何平均数。另外,可能还需要对几个字段同时进行聚合。在这篇文章中,我们将展示如何使用 Java Stream更快地解决这类问题,这个框架使我们能够高效地处理大量数据。

假设读者已对Java Streams和Collectors类有基本的了解:

问题示例

举一个简单的例子来展示它的用途,这个例子会尽量通俗,方便概括。一个由TaxEntry实体构成的集合(税收),实体代码定义如下:

public class TaxEntry {

private String state;
private String city;
private int numEntries;
private double price;
//Constructors, getters, hashCode, equals etc
}

计算每个城市的税目总数非常简单:

Map<String, Integer> totalNumEntriesByCity = 
taxes.stream().collect(Collectors.groupingBy(TaxEntry::getCity,
Collectors.summingInt(TaxEntry::getNumEntries)));

Collectors.groupingBy需要两个参数:一个分类函数来做分组条件,一个收集器来做分组后流的组内聚合。在这我们使用TaxEntry::getCity作为分类条件。使用Collectors::summingInt方法来处理分组后的流,它返回一个Collector收集器,即对每组的税目数进行合计。

如果想要进行复合分组,事情就有点复杂了。例如,在前面的问题中,去求每个省和城市的总税目数,我们先定义方法:

record StateCityGroup(String state, String city) {}

注意,我们使用的是一个Java record,这是一种定义不可变数据类的简洁方式。Java编译器会为我们生成类的getter、setter、hashCode、equals和toString方法。这样就可以很简单地解决问题:

Map<StateCityGroup, Integer> totalNumEntriesForStateCity = 
taxes.stream().collect(groupingBy(p -> new StateCityGroup(p.getState(), p.getCity()),
Collectors.summingInt(TaxEntrySimple::getNumEntries))
);

我们使用lambda表达式来设置分类函数,创建一个新的StateCityGroup类用来封装每个省的城市。分组后流的收集器与之前一致。

备注:为了简洁起见,在代码示例中,我们假设Collectors类的所有方法都是静态导入的。

如果想同时做几个聚合,就变得复杂了。例如,找到一个给定的省和城市的税目数和平均价格的总和,框架没有提供一个简单的方法。

为了解决这个问题,我们从之前的聚合中得到启发,定义一个record,封装所有需要聚合的字段。

record TaxEntryAggregation (int totalNumEntries, double averagePrice ) {}

现在,我们该怎么同时对这两个字段进行聚合呢?那就是做两次流收集,分别找到每一个聚合,如下面代码:

Map<StateCityGroup, TaxEntryAggregation> aggregationByStateCity = taxes.stream().collect(
groupingBy(p -> new StateCityGroup(p.getState(), p.getCity()),
collectingAndThen(Collectors.toList(),
list -> {int entries = list.stream().collect(
summingInt(TaxEntrySimple::getNumEntries));
double priceAverage = list.stream().collect(
averagingDouble(TaxEntrySimple::getPrice));
return new TaxEntryAggregation(entries, priceAverage);})));

分组和以前一样,但对于分组后流,我们使用Collectors::collectionAndThen进行聚合。这个函数需要两个参数:

  • 我们将第一次分组的流转换为一个集合(使用Collectors::toList())。
  • 我们使用一个lambda表达式来结束函数,从上一步的集合中创建两个不同的流来做聚合,并存在TaxEntryAggregation类中返回。

如果我们想同时做更多的字段聚合,那么我们将增加后续流集合中的流数量。这样代码就会变得效率低下,代码冗余。所以我们应该寻找更好的替代方案。

还有一个问题,通常我们在使用Collectors类时,可以做的聚合类型有限。而且求和、求平均和归纳只提供了对integer、long和double类型的支持。如果我们有更复杂的类型如BigInteger或BigDecimal时,该怎么办?

更糟的是,归纳方法只提供了min、max、count、sum和average的统计。如果我们想进行更复杂的计算,如加权平均数或几何平均数,怎么办?

有些人会说,我们可以编写自定义的收集器(Collectors),但这需要深刻理解收集器的接口和对流式收集器流程。不如直接使用Collectors类中的内置方法。在下一节中,我们将解决这些问题。

复杂的多重聚合:一种解决方法

针对上面的问题,我们写一个例子。假设我们有实体:

public class TaxEntry {
private String state;
private String city;
private BigDecimal rate;
private BigDecimal price;
record StateCityGroup(String state, String city) {
}
//Constructors, getters, hashCode/equals etc
}

我们首先要思考的是,对于每个不同的<省-城市>,我们如何能找到税目的总数以及税率和价格的乘积的总和(∑(税率*价格))。其中需要注意的点是使用BigDecimal进行多字段聚合。

与上一节一样,我们定义了一个封装聚合指标的类。

record RatePriceAggregation(int count, BigDecimal ratePrice) {}

对于分组后的简单聚合,一个高效的方法是Collectors::toMap。

Map<StateCityGroup, RatePriceAggregation> mapAggregation = taxes.stream().collect(
toMap(p -> new StateCityGroup(p.getState(), p.getCity()),
p -> new RatePriceAggregation(1, p.getRate().multiply(p.getPrice())),
(u1,u2) -> new RatePriceAggregation( u1.count() + u2.count(), u1.ratePrice().add(u2.ratePrice()))
));

Collectors::toMap需要三个参数:

  • 第一个参数是一个lambda表达式,用于生成Map的key。这个函数创建StateCityGroup对象作为key。这将按<省+城市>元素进行分组。
  • 第二个参数产生Map的value。在示例中,我们创建了一个RatePriceAggregation对象,初始化:1个,税率与价格的乘积。
  • 最后一个参数是一个二进制运算器,用于合并相同key(省-城市)的value值。然后将计数和价格相加进行聚合。

下面造一些数据来进行测试:

List<TaxEntry> taxes = Arrays.asList(
new TaxEntry("New York", "NYC", BigDecimal.valueOf(0.2), BigDecimal.valueOf(20.0)),
new TaxEntry("New York", "NYC", BigDecimal.valueOf(0.4), BigDecimal.valueOf(10.0)),
new TaxEntry("New York", "NYC", BigDecimal.valueOf(0.6), BigDecimal.valueOf(10.0)),
new TaxEntry("Florida", "Orlando", BigDecimal.valueOf(0.3), BigDecimal.valueOf(13.0)));

从上面的map中获取纽约的结果:

System.out.println("New York: " + mapAggregation.get(new StateCityGroup("New York", "NYC")));

输出结果:

New York: RatePriceAggregation[count=3, ratePrice=14.00]

这是一种解决方法,处理了多个字段和非原始数据类型(在我们的例子中为BigDecimal)的分组和聚集。但是,它的缺点是你不能进行其他最终结果的聚合,比如不能做任何形式的平均数。

如果要计算<税率-价格>的加权平均数,以及每个<省-城市>的所有价格的总和。我们需要先计算属于每个<省-城市>的所有税目的税率和价格的乘积之和,然后除以每种情况的总税目数n。1/n ∑(费率*价格)。

我们定义一个含有总价的实体类。

record TaxEntryAggregation(int count, BigDecimal weightedAveragePrice, BigDecimal totalPrice) {}

然后我们解决上述问题:

Map<StateCityGroup, TaxEntryAggregation> groupByAggregation = taxes.stream().collect(
groupingBy(p -> new StateCityGroup(p.getState(), p.getCity()),
mapping(p -> new TaxEntryAggregation(1, p.getRate().multiply(p.getPrice()), p.getPrice()),
collectingAndThen(reducing(new TaxEntryAggregation(0, BigDecimal.ZERO, BigDecimal.ZERO),
(u1,u2) -> new TaxEntryAggregation(u1.count() + u2.count(),
u1.weightedAveragePrice().add(u2.weightedAveragePrice()),
u1.totalPrice().add(u2.totalPrice()))
),
u -> new TaxEntryAggregation(u.count(),
u.weightedAveragePrice().divide(BigDecimal.valueOf(u.count()),
2, RoundingMode.HALF_DOWN),
u.totalPrice())
)
)
));

这段代码有些复杂,但有效地解决了问题。下面详细讲解一下:

  • Collectors::groupingBy

1. 我们创建一个StateCityGroup对象用于分组

2. 对于分组后流,我们调用Collectors::mapping方法

  • 第一个参数,将分组的<省-城市>税收类转换为TaxEntryAggregation对象,然后初始化:个数为1,税率乘以价格,价格。
  • 对于后续流,我们调用Collectors::collectionAndThen方法进行整理转换。

1.调用Collectors::reducing

  • 创建一个有值的TaxEntryAggregation类防止空值。
  • Lambda表达式实现reducing方法,并返回TaxEntryAggregation对象,并进行相应字段的聚合。

2.归纳转换,使用前一个reducing中计算的个数计算平均数,并返回最终的TaxEntryAggregation。

这个方法不仅可以同时对多个字段进行聚合,而且还可以分几个阶段进行复杂的计算。

所以这是一个去解决这类问题的简单方法。归纳一下就是:定义一个封装了所有需要聚合的字段的record,使用Collectors::mapping来初始化记录,然后使用Collectors::collectionAndThen来做二次处理和最终聚合。

与上一节一样,我们可以得到纽约的聚合结果:

System.out.println("Finished aggregation: " + groupByAggregation.get(new StateCityGroup("New York", "NYC")));

结果:

Finished aggregation: TaxEntryAggregation[count=3, weightedAveragePrice=4.67, totalPrice=40.0]

备注:由于TaxEntryAggregation是一条Java record,且是不可改变的,所以可以使用stream collector库来并行流计算。

结论

我们编写了几个复杂的多字段分组聚合示例,其中包括非原始数据类型的多字段聚合和跨字段聚合计算。这些表明了可以通过Java Stream和Collectors API及record集合来高效的处理大量数据。

译者介绍

翟珂,51CTO社区编辑,目前在杭州从事软件研发工作,做过电商、征信等方面的系统,享受分享知识的过程,充实自己的生活。

原文标题:Grouping and Aggregations With Java Streams,作者:Manu Barriola

责任编辑:华轩 来源: 51CTO
相关推荐

2023-05-29 09:21:53

SQLAlchemySQL

2021-01-26 09:50:06

鸿蒙HarmonyOS远程调用

2023-10-24 09:26:03

数据分析

2020-04-15 15:48:03

Node.jsstream前端

2023-11-29 08:19:45

Go泛型缺陷

2014-07-16 16:42:41

Java8streamreduce

2011-04-12 14:47:54

UML

2009-03-25 09:00:11

Group By排序MySQL

2009-06-25 15:20:28

CollectionMap

2014-04-15 09:40:04

Java8stream

2022-09-23 09:25:04

代码方法

2023-10-10 10:43:19

JavaJDK1.8

2023-11-27 13:53:00

Java数据转换

2022-12-30 09:24:23

Java8Stream操作

2022-12-09 07:48:10

Java8Stream表达式

2022-12-12 09:13:45

global聚合filters

2009-06-19 16:46:18

IntegerJava

2023-01-05 08:27:04

Stream执行流程

2021-07-06 06:39:22

Java静态代理动态代理

2022-03-07 10:05:02

SpringStreamMQ连接
点赞
收藏

51CTO技术栈公众号