博客
关于我
spark1.6使用:读取本地外部数据,把RDD转化成DataFrame,保存为parquet格式,读取csv格式
阅读量:526 次
发布时间:2019-03-07

本文共 1336 字,大约阅读时间需要 4 分钟。

一、先开启Hadoop和spark

二、启动spark-shell

spark-shell --master local[2] --jars /usr/local/src/spark-1.6.1-bin-hadoop2.6/libext/com.mysql.jdbc.Driver.jar

1.读取spark目录下面的logs日志作为测试:

val alllog=sc.textFile("file:///usr/local/src/spark-1.6.1-bin-hadoop2.6/logs/*out*")

alllog.count 看看一共有347记录

2.转为为DataFrame

现在读取进来的是RDD格式,用map函数把每条记录转成一行

import org.apache.spark.sql.Rowval alllogRDD=alllog.map(x =>Row(x))import org.apache.spark.sql.types._val schemaString="line"val schema=StructType(schemaString.split(" ").map(fieldName =>StructField(fieldName,StringType,true)))val alllogDataFrame = sqlContext.createDataFrame(alllogRDD, schema)alllogDataFrame.printSchema  #打印schemaalllogDataFrame.show(false) #这里的false表示不省略,否则跟下午一样,会三点省略

到此为止,已经把RDD转化为DataFrame了。

三、把DataFrame转为为表用SQL查询

alllogDataFrame.registerTempTable("log")

sqlContext.sql("SELECT * FROM log").show()

到此就可以使用SQL了。

四、读取和存储外部数据源

1.读取json文件

 val df = sqlContext.read.format("json").load("file:///mnt/hgfs/vm/china.json")

df.printSchema

 df.select("*").write.format("parquet").mode("overwrite").save("file:///mnt/hgfs/vm/china.parquet") #保存为parquet格式

这里的mode可以有overwrite,append,ignore等模式,也可以不用。

这样就直接生产DataFrame数据,不用添加schema信息了。

对于parquet文件,还有更高级的使用方法,直接读取文件就行了

 val df = sqlContext.sql("SELECT * FROM parquet.`examples/src/main/resources/users.parquet`")

对于json里面有嵌套数组,想要展开成多行,可以在SQL中使用explode函

 

转载地址:http://osmjz.baihongyu.com/

你可能感兴趣的文章
MySQL 数据库设计总结
查看>>
Mysql 数据库重置ID排序
查看>>
Mysql 数据类型一日期
查看>>
MySQL 数据类型和属性
查看>>
mysql 敲错命令 想取消怎么办?
查看>>
Mysql 整形列的字节与存储范围
查看>>
mysql 断电数据损坏,无法启动
查看>>
MySQL 日期时间类型的选择
查看>>
Mysql 时间操作(当天,昨天,7天,30天,半年,全年,季度)
查看>>
MySQL 是如何加锁的?
查看>>
MySQL 是怎样运行的 - InnoDB数据页结构
查看>>
mysql 更新子表_mysql 在update中实现子查询的方式
查看>>
MySQL 有什么优点?
查看>>
mysql 权限整理记录
查看>>
mysql 权限登录问题:ERROR 1045 (28000): Access denied for user ‘root‘@‘localhost‘ (using password: YES)
查看>>
MYSQL 查看最大连接数和修改最大连接数
查看>>
MySQL 查看有哪些表
查看>>
mysql 查看锁_阿里/美团/字节面试官必问的Mysql锁机制,你真的明白吗
查看>>
MySql 查询以逗号分隔的字符串的方法(正则)
查看>>
MySQL 查询优化:提速查询效率的13大秘籍(避免使用SELECT 、分页查询的优化、合理使用连接、子查询的优化)(上)
查看>>