hadoop
-
Hadoop完全分布式集群搭建
环境准备 我使用的是CentOS-6.6版本的4台虚拟机，主机名分别为node01、node02、node03和node04。我将使用hadoop用户来搭建集群（在生产环境中，root用户通常不允许任意使用）。关于虚拟机的安装，可以参考以下两篇文章：在Windows中安装一台Linux虚拟机，以及通过已有的虚拟机克隆四台虚拟机。为集群中的每个虚拟机创建一个h…
-
Hadoop伪分布式集群搭建
软件准备 我使用的是CentOS-6.6的虚拟机，主机名为repo。参考在Windows中安装Linux虚拟机的步骤，我在该虚拟机中安装了JDK，参考在Linux中安装JDK的指南。此外，该虚拟机配置了免秘钥登录自身，参考配置各台虚拟机之间免秘钥登录的设置。Hadoop安装包的下载地址为：https://www.php.cn/link/eecd2755d73…
-
Apache Spark与Hadoop之间的区别
apache spark 和 hadoop 在数据处理方法上存在差异：hadoop：分布式文件系统，批处理，使用 mapreduce 计算。spark：统一数据处理引擎，实时处理和批处理兼备，提供内存计算、流处理和机器学习等功能。Apach
