博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
共享变量 Accumulator 实例
阅读量:6222 次
发布时间:2019-06-21

本文共 1450 字,大约阅读时间需要 4 分钟。

hot3.png

package cn.hhb.spark.core;import org.apache.spark.SparkConf;import org.apache.spark.api.java.JavaRDD;import org.apache.spark.api.java.JavaSparkContext;import org.apache.spark.api.java.function.Function;import org.apache.spark.api.java.function.VoidFunction;import org.apache.spark.broadcast.Broadcast;import org.apache.spark.Accumulator;import java.util.Arrays;import java.util.List;/** * Created by dell on 2017/7/13. */public class AccumulatorVariable {    public static void main(String[] args) {        SparkConf conf = new SparkConf()                .setAppName("AccumulatorVariable")                .setMaster("local")                .set("spark.testing.memory", "2147480000");        JavaSparkContext sc = new JavaSparkContext(conf);        /**         * 创建Accumulator变量,需要调用SparkContext的accumulator方法         */        final Accumulator
sum = sc.accumulator(0); List
numberList = Arrays.asList(1,2,3,4,5); JavaRDD
numbers = sc.parallelize(numberList); numbers.foreach(new VoidFunction
() { @Override public void call(Integer integer) throws Exception { // 在函数内部就可以对accumulator变量调用add方法累加值 sum.add(integer); } }); // 在driver程序中,可以调用accumulator的value()方法,获取其值 System.out.println(sum.value()); sc.close(); }}

转载于:https://my.oschina.net/hehongbo/blog/1486300

你可能感兴趣的文章
在AD中存取照片
查看>>
sqlite3 支持的关联查询
查看>>
Android Studio之高德地图实现定位和3D地图显示
查看>>
linux学习一个服务(未完)
查看>>
View的setTag和getTag使用
查看>>
maven跳过单元测试-maven.test.skip和skipTests的区别以及部分常用命令
查看>>
电子书下载:Silverlight 4 Business Intelligence Software
查看>>
Android startActivityForResult()的用法
查看>>
正则域名
查看>>
Delphi中COM自动化对象中使用事件
查看>>
WebAPI前置知识:HTTP与RestfulAPI
查看>>
单一职责原则
查看>>
让vs2008与vs2012同时打开同一个项目文件
查看>>
单片机沉思录——再谈static
查看>>
MongoDB空间查询
查看>>
nullnullDefining and Launching the Query 定义和启动查询
查看>>
MySQL InnoDB的一些参数说明
查看>>
PHP安全编程:跨站请求伪造CSRF的防御(转)
查看>>
.net 4.5如何使用Async和Await进行异步编程
查看>>
Android实现系统重新启动
查看>>