目录
1. 问题描述 1
2. 基于的系统/算法 3
3. 系统设计/算法设计 12
4. 实验流程 21
5. 实验 25
6. 结论 27
1. 问题描述
在此处写清你的题号、题目名称、复制你的问题描述。介绍你要解决的问题
a. 问题的背景/意义
b. 问题的技术难点
题目名称:Hadoop环境下实现基于TF-IDF算法的搜索引擎和分布式PageRank算法
问题描述:
现有一组“纽约时报”评论的数据,数据来源如下:
https://www.kaggle.com/aashita/nyt-comments/home
请按要求完成如下问题:
1.请在Hadoop环境下,利用TF-IDF算法实现一个小型搜索引擎,要求用户输入一个单词或句子,给出评论的排序结果,要求给出算法设计与系统概要设计。
2.请在Hadoop环境下,利用数据集的webURL字段,实现分布式PageRank算法,请给出算法具体描述及程序流程图。








