本文基于Spark MLlib软件库，对证券账户特征进行K均值和高斯混合模型聚类，并对投影空间进行三维展示。利用距离指标和熵指标，指导K值选择，观察聚类效果和训练时间间的关系，并分析离群点特性。结果表明，开源机器学习工具在分布式环境可获得良好计算效果。

本文中阐述的原理基于 Spark 2.1 版本，阅读本文需要读者有一定的 Spark 和 Java 基础，了解 RDD、Shuffle、JVM 等相关概念。

。Spark的RDD执行完成之后会保存检查点，便于当整个作业运行失败重新运行时候，从检查点恢复之前已经运行成功的RDD结果，这样就会大大减少重新计算的成本，提高任务恢复效率和执行效率，节省Spark各个计算节点的资源。

如果你是从事IT工作1~3年的新人或者希望开始学习Spark核心知识的人来说，本书非常适合你。如果你已经对Spark有所了解或者已经使用它，还想进一步提高自己，那么本书更适合你。

大家好，我是来自GrowingIO的数据工程师付旗，今天跟大家分享的是我们GrowingIO在使用Spark中的经验，遇见的一些问题，以及我们修复的方法。在来之前，昨天晚上我在跟我们组同事讨论的时候，我说我发给他们简要写的我是GrowingIO的大数据工程师，我们组的几

官方版本的spark1.0.0-hadoop2（hadoop2，cdh5）,部署在hadoop2.0.0-cdh4.7.0版本上一直不成功，决定重新编译spark1.0.0，

基于Apache Spark推出的IBM z/OS平台具备Apache Spark core、Spark SQL、Spark Streaming、Machine Learning Library (MLlib)和Graphx等开源功能，可提供业内唯一的主机常驻Spark数据提取解决方案。

Spark本地开发环境搭建过程，需要ssh到Spark worker中执行命令，所以，需要免密码登录，配置你的Spark slave。

巫新宇认为Storm比Spark Sreaming更快，但选择Spark及Spark Sreaming技术栈，是因为Scala，之前已经使用Play Framework实现非阻塞、大并发。

ApacheSpark在业内不断得到关注和应用，每一次的改变都牵动着从业者的心，这篇文章总结了ApacheSpark1.6预览版的一些新特性，并做了简短的介绍。

Spark使用函数式编程范式扩展了MapReduce模型以支持更多计算类型，Spark使用内存缓存来提升性能，因此进行交互式分析也足够快速(就如同使用Python解释器，与集群进行交互一样)。缓存同时提升了迭代算法的性能，这使得Spark非常适合数据理论任务，特别是机器学

2015中国大数据技术大会12月10日在北京新云南皇冠假日酒店盛大开幕，Databricks公司联合创始人、Spark首席架构师辛湜带来主题为《Spark发展：回顾2015，展望2016》的演讲。

目前Tachyon的功能基本可以看作就是：对外提供了一个以顺序文件流的方式，写本地内存，读本地和远程内存的接口，持久化特定文件，同时兼容HDFS API。

作者日常主要负责Databricks公司和Spark未来技术发展的方向。在Databricks公司成立之前，我在UC Berkeley AMPLab攻读博士，方向专注在数据库和分布式系统。

IBM公司宣布将主要承担Apache Spark项目,充分展现了IBM公司对于Apache Spark的重要性充满信心。

面向开发者的云，必须是一个闭环的、真正意义上聚焦于应用开发和业务创新的云，要在整个开发周期上提供服务。

在本文，IBM Research展示了如何用Spark对微服务性能进行分析和统计，由OneAPM工程师翻译。

马如悦，百度大数据部主任架构师。大会召开前夕，笔者有幸采访到了马如悦，请他分享Palo在百度内部的应用实践。在他看来，不写代码的架构师都不是好的架构师，没有主导实际项目的架构师也不是好的架构师。