首页 期刊 计算机工程 基于图覆盖的大数据全比较数据分配算法 【正文】

基于图覆盖的大数据全比较数据分配算法

作者:高燕军; 张雪英; 李凤莲; 田玉楚 太原理工大学信息工程学院; 山西晋中030600; 昆士兰科技大学电机工程及计算机科学学院; 澳大利亚布里斯班4001
分布式计算   大数据   全比较   数据分配   图覆盖  

摘要:在对大数据全比较问题进行分布式处理的过程中,现有的数据分配策略较少考虑比较任务和数据之间的特殊依赖关系,导致存储效率下降、任务分配不均衡。为此,提出基于图覆盖的数据分配算法。通过理论分析将大数据全比较的数据分配问题归纳为图覆盖问题,在此基础上构造图覆盖的最优解,根据特解分配数据。实验结果表明,与基于Hadoop的数据分配策略相比,该算法可确保比较任务具有100%的数据本地性,使节点之间达到负载均衡,并且提高存储节约率和整体计算性能。

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

学术咨询 免费咨询 杂志订阅