第2阶段试卷

mac2022-06-30  82

有两个海量日志文件存储在hdfs上, 其中登陆日志格式:user,ip,time,oper(枚举值:1为上线,2为下线);访问日志格式为:ip,time,url,假设登陆日志中上下线信息完整,且同一上下线时间段内使用的ip唯一,计算访问日志中独立user数量最多的前10个url,用MapReduce实现。

提示:1、要统计前10,需要两个步骤,第一个步骤实现join,统计出每个url对应的独立用户数,第二步骤求出top102、两个大表join,用同一job多输入3、要根据ip字段join,所以要根据ip分区

4、求top10

 

注:1、独立用户/独立访客:是指不同的、通过互联网访问、浏览这个网页的自然人。英文简写UV,全称unique visitor。

 

 

详见代码。

转载于:https://www.cnblogs.com/mediocreWorld/p/11196723.html

相关资源:2014黑马程序员JAVA基础测试题
最新回复(0)