贾永琪的技术博客

从zookeeper官方文档系统学习zookeeper

本文详细介绍了Zookeeper的安装、配置、启动、验证,以及单机和集群版本的区别。重点讲解了Zookeeper的Leader选举机制,包括启动时和运行中的选举过程,并探讨了节点状态和客户端命令。此外,还涵盖了Zookeeper的配置、权限ACL、监视器、数据结构、会话、数据同步和ZAB协议。最后,提到了Zookeeper在Java中的使用和分布式锁的应用。

Hive的hiveserver2和beeline的使用以及spark thritfserver的启动

本文详细介绍了HiveServer2的配置,包括最小和最大工作线程数、监听端口和绑定地址,并展示了如何使用beeline连接HiveServer2。此外,还探讨了SparkThriftServer的配置,以及它与HiveServer2和spark-sql的对比,强调了其在应用复用方面的优势。最后,展示了如何通过beeline连接SparkThriftServer,并给出了使用sparksql程序连接ThriftServer的示例。

使用maven集成java和scala开发环境

本文档详细介绍了如何使用Maven搭建一个包含Scala和Spark的开发环境。首先创建一个普通的Maven项目,然后在父项目中配置Scala依赖,并在子项目中引入。接着配置Scala插件,安装Scala SDK,编写并运行Scala的HelloWorld程序。随后,配置Maven的各种插件,如maven-compile-plugin、maven-scala-plugin、maven-jar-plugin、maven-dependency-plugin和maven-assembly-plugin,用于编译、打包和依赖管理。最后,通过maven-assembly-plugin创建可执行的jar包,并演示了如何在Spark集群上运行该程序。

spark源码编译和集群部署以及idea中sbt开发环境集成

spark源码编译和集群部署以及idea中sbt开发环境集成源码下载源码编译maven 下载scala 下载编译参数编译编译分发的二进制包单机启动集群部署开发环境集成源码编译的3.2.0版本无法在window上直接用spark-shell启动总结项目地址:https://gitee.com/jyq_18792721831/studyspark.git源码下载打开Apache Spark™ - Unified Engine for large-scale data analytics,下载源码在下载_spark 源码编译与部署