首页 > 如何把Spark RDD中的内容按行打印出来?

如何把Spark RDD中的内容按行打印出来?

请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:
means 1
under 2
this 3
...

Hadoop 流行的一个通用的数据流模式是 MapReduce。Spark 能很容易地实现 MapReduce:

scala> val wordCounts = textFile.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey((a, b) => a + b)
wordCounts: spark.RDD[(String, Int)] = spark.ShuffledAggregatedRDD@71f027b8

这里,我们结合 flatMap, map 和 reduceByKey 来计算文件里每个单词出现的数量,它的结果是包含一组(String, Int) 键值对
的 RDD。我们可以使用 [collect] 操作在我们的 shell 中收集单词的数量:

scala> wordCounts.collect()
res6: Array[(String, Int)] = Array((means,1), (under,2), (this,3), (Because,1), (Python,2), (agree,1), (cluster.,1), ...)

请问我想把最后wordcounts里的内容按行打印出来要怎样编写代码?,向下面这样:
means 1
under 2
this 3
...


可以写个函数,我用python,你可以类比。

output = wordCounts.collect()
def output(output):
    for key, value in output:
        print key, value

你这个后面接一个saveAsTextFile("E:/text.txt")

打印控制台是 .foreach(println(_))

【热门文章】
【热门文章】