全面分析Mahout算法库中不同模块中的各个算法的原理及其Mahout实现流程
每个算法都辅之以实战案例,同时还包括4个系统级案例,实战性强。
《大数据技术丛书:Mahout算法解析与案例实战》是一本经典的Mahout著作,原理与实战并重。不仅全面分析了Mahout算法库中不同模块中的各个算法的原理及其Mahout实现流程,而且每个算法都辅之以实战案例。此外,还包括4个系统级案例,实战性非常强。
全书共11章分为三个部分:第一部分为基础篇(第1~2章),首先介绍了Mahout的应用背景、Mahout算法库收录的算法、Mahout的应用实例,以及开发环境的搭建;第二部分为算法篇(第3~7章),分析了Mahout算法库中不同模块的各个算法的原理以及Mahout实现流程,同时在每章书末含有每个算法的实战,让读者可以自己运行程序,感受程序运行的各个流程;第三部分为实战篇(第8~11章),通过对4个不同系统案例的分析讲解,让读者了解一个完整的云平台系统的各个流程,从需求到系统框架到系统功能再到功能开发。
第一部分
基 础 篇
第1章 Mahout简介
第2章 Mahout安装配置
第1章
Mahout简介
当今社会什么技术最牛?什么技术最火?也许很多人会说是云计算,它可以说是近几年来一直被热议的“高深莫测”的词汇。大家都在说云计算,但是很少人能把云计算说得彻底且明白,大多数人还是有“云里雾里”的感觉。虽然如此,但是随着最近几年云计算概念的普及,云计算神秘的面纱正在慢慢地被揭开。云计算的核心重点是云平台下算法的开发,有了算法的支撑才能发挥云计算的最大优势。Mahout开源项目就是一个Hadoop云平台的算法库,已经实现了多种经典算法,并一直在扩充中,其目标就是致力于创建一个可扩容的云平台算法库。
下面就让我们开始Mahout探索之旅吧。
1.1 Mahout应用背景
随着互联网的发展,企业拥有的数据也越来越多,比如Facebook公司,从公司成立之初的100万用户数到2010年的1.34亿用户数,再到2014年的13.1亿用户数,其用户增长速度达到了令人惊叹的地步,单单用户数目的增长已经达到了如此地步,更不用说每个用户所产生的数据量了。很明显,面对如此庞大的数据量,企业再用以前的数据处理方式显然已经不能满足要求了。
正所谓,变则通,通则久。企业若想长久发展,面对日益增长的数据,在以前传统的数据处理方式显得力不从心的时候,就需要“变”。所谓“变”,其实就是对现有方式的创新。在此情况下,“云计算”便应运而生。所谓“云计算”是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需提供给计算机和其他设备,这样可以最大限度、最大效率地利用计算机资源,达到快捷、高速地处理数据的目的。
但是,单单有云计算平台还不够,还需要有适合云平台的算法。云计算的核心就是计算,要研究可以在云平台上实现的算法,这样才能发挥云计算的最大威力。以前的数据挖掘算法是在单机上实现的,单机实现的算法其编程思路和模式与云平台下的编程思路和模式很不一样,如果还是按照以前的思路,那么肯定是行不通的。
目前开源的云平台有多种,本书所述的云平台是Hadoop云平台。Hadoop云平台是一个用于处理大数据的分布式应用的开源框架,提供分布式存储和高效计算能力。Hadoop具有以下优势:
同时提供分布式存储和计算能力。
具有极高的可扩展性。
其主要的组件之一HDFS具有很高的数据吞吐量。
具有软件和硬件容错性。
允许大数据的并行工作。
在Hadoop云平台下编程不仅要求用户对Hadoop云平台框架比较熟悉,还要对Hadoop云平台下底层数据流、Map和Reduce原理非常熟悉,这是基本的编程要求。此外,用户要编写某一个算法还需要对该算法的原理比较熟悉,即需要对算法原理理解透彻。总体来看,编写云平台下的算法程序是属于高难度的开发工作了。但是,如果使用Mahout,情况就会有很大的不同,用户再也不用自己编写复杂的算法,不需要掌握太高深的云平台的框架和数据流程的理论知识。用户所需要了解的只是算法的大概原理、算法实际应用环境和如何调用Mahout相关算法的程序接口。当然,在具体的项目中,用户还应该根据实际需求在Mahout源代码基础上进行二次开发以满足具体的实际应用情况。
Mahout是Apache基金会的开源项目之一。Apache Mahout起源于2008年,当时它是Apache Lucene的子项目。在使用Hadoop云平台的基础上,可以将其功能有效地扩展到Hadoop云平台中,提高其运算效率。2010年4月,Apache Mahout最终成为了Apache的顶级项目。创建此项目的用意是建立一个可扩容的云平台算法库。目前,Mahout已经实现了多种经典数据挖掘算法,算是比较完备的算法库了。Mahout目前还在扩充中,由世界上对这个项目感兴趣的云平台算法编程高手们一起进行开发、测试,然后进行算法扩充,任何对这个项目感兴趣的个人或者组织都可以加入到该项目的社区中,为该项目做出贡献。
……
前言
第一部分 基础篇
第1章 Mahout简介
1.1 Mahout应用背景
1.2 Mahout算法库
1.2.1 聚类算法
1.2.2 分类算法
1.2.3 协同过滤算法
1.2.4 频繁项集挖掘算法
1.3 Mahout应用
1.4 本章小结
第2章 Mahout安装配置
2.1 Mahout安装前的准备
2.1.1 安装JDK
2.1.2 安装Hadoop
2.2 两种安装方式
2.2.1 使用Maven安装
2.2.2 下载发布版安装
2.3 测试安装
2.4 本章小结
第二部分 算法篇
第3章 聚类算法
3.1 Canopy算法
3.1.1 Canopy算法简介
3.1.2 Mahout中Canopy算法实现原理
3.1.3 Mahout的Canopy算法实战
3.1.4 Canopy算法小结
3.2 K-Means算法
3.2.1 K-Means算法简介
3.2.2 Mahout中K-Means算法实现原理
3.2.3 Mahout的K-Means算法实战
3.2.4 K-Means算法小结
3.3 Mean Shift算法
3.3.1 Mean Shift算法简介
3.3.2 Mahout中Mean Shift算法实现原理
3.3.3 Mahout的Mean Shift算法实战
3.3.4 Mean Shift算法小结
3.4 本章小结
第4章 分类算法
4.1 Bayesian算法
4.1.1 Bayesian算法简介
4.1.2 Mahout 中Bayesian算法实现原理
4.1.3 Mahout的Bayesian算法实战
4.1.4 拓展
4.1.5 Bayesian算法小结
4.2 Random Forests算法
4.2.1 Random Forests算法简介
4.2.2 Mahout中Random Forests算法实现原理
4.2.3 Mahout的Random Forests算法实战
4.2.4 拓展
4.2.5 Random Forests算法小结
4.3 本章小结
第5章 协同过滤算法
5.1 Distributed Item-Based Collaborative Filtering算法
5.1.1 Distributed Item-Based Collaborative Filtering算法简介
5.1.2 Mahout中Distributed ItemBased Collaborative Filtering算法实现原理
5.1.3 Mahout的Distributed Item Based Collaborative Filtering算法实战
5.1.4 拓展
5.1.5 Distributed ItemBased Collabo-rative Filtering算法小结
5.2 Collaborative Filtering with ALSWR算法
5.2.1 Collaborative Filtering with ALSWR算法简介
5.2.2 Mahout中Collaborative Filtering with ALS-WR算法实现原理
5.2.3 Mahout的Collaborative Filtering with ALS-WR算法实战
5.2.4 拓展
5.2.5 Collaborative Filtering with ALSWR算法小结
5.3 本章小结
第6章 模式挖掘算法
6.1 FP树关联规则算法
6.1.1 FP树关联规则算法简介
6.1.2 Mahout中Parallel Frequent Pattern Mining算法实现原理
6.1.3 Mahout的Parallel Frequent Pattern Mining算法实战
6.1.4 拓展
6.2 本章小结
第7章 Mahout中的其他算法
7.1 Dimension Reduction算法
7.1.1 Dimension Reduction算法简介
7.1.2 Mahout中Dimension Reduction算法实现原理
7.1.3 Mahout的Dimension Reduction算法实战
7.1.4 拓展
7.2 本章小结
第三部分 实战篇
第8章 Friend Find系统
8.1 系统功能
8.1.1 系统管理员
8.1.2 普通用户
8.1.3 总体功能
8.2 数据库设计
8.2.1 原始用户数据表
8.2.2 注册用户数据表
8.2.3 系统管理员表
8.2.4 聚类中心表
8.3 系统技术框架
8.4 系统流程
8.4.1 登录
8.4.2 注册
8.4.3 上传数据
8.4.4 调用K-Means算法
8.4.5 查看用户分组
8.4.6 查看分组情况
8.4.7 查看分组成员
8.5 系统实现
8.5.1 登录
8.5.2 注册
8.5.3 上传数据
8.5.4 调用K-Means算法
8.5.5 查看用户分组
8.5.6 查看分组情况
8.5.7 查看分组成员
8.6 本章小结
第9章 Wine Identification系统
9.1 系统功能
9.1.1 用户管理模块
9.1.2 随机森林模型建立模块
9.1.3 随机森林模型预测模块
9.2 系统框架
9.3 数据库设计
9.3.1 用户表
9.3.2 系统常量表
9.4 系统流程
9.4.1 登录
9.4.2 注销
9.4.3 权限修改
9.4.4 密码修改
9.4.5 用户列表
9.4.6 数据上传
9.4.7 随机森林模型建立
9.4.8 随机森林模型评估
9.4.9 随机森林模型预测
9.5 系统实现
9.5.1 登录
9.5.2 注销
9.5.3 权限修改
9.5.4 密码修改
9.5.5 用户列表
9.5.6 数据上传
9.5.7 随机森林模型建立
9.5.8 随机森林模型评估
9.5.9 随机森林模型预测
9.6 本章小结
第10章 Dating Recommender系统
10.1 系统功能
10.1.1 系统管理员功能
10.1.2 普通用户功能
10.1.3 功能总述
10.2 系统框架
10.3 数据库设计
10.3.1 系统管理员表
10.3.2 原始用户推荐信息表
10.3.3 基础数据top10表
10.4 系统流程
10.4.1 登录
10.4.2 上传数据
10.4.3 推荐分析
10.4.4 单用户推荐
10.4.5 新用户推荐
10.5 算法设计
10.5.1 协同过滤算法接口设计
10.5.2 top10算法设计
10.5.3 新用户推荐算法设计
10.6 系统实现
10.6.1 登录
10.6.2 上传数据
10.6.3 推荐分析
10.6.4 单用户推荐
10.6.5 新用户推荐
10.7 本章小结
第11章 博客推荐系统
11.1 系统功能
11.1.1 用户管理
11.1.2 建立知识库
11.1.3 博客管理
11.2 系统框架
11.3 数据库设计
11.3.1 用户信息表
11.3.2 知识库信息表
11.3.3 系统常量表
11.4 系统流程
11.4.1 登录
11.4.2 注册
11.4.3 密码修改
11.4.4 订阅博客查看
11.4.5 博客订阅与退订
11.4.6 博客推荐
11.4.7 上传数据
11.4.8 调用FP树关联规则算法
11.5 算法设计
11.6 系统实现
11.6.1 登录
11.6.2 注册
11.6.3 密码修改
11.6.4 订阅博客查看
11.6.5 运行FP云算法
11.6.6 博客订阅与退订
11.6.7 博客推荐
11.7 本章小结