首页 期刊 计算机工程与设计 基于Spark的有效载荷参数解析处理方法 【正文】

基于Spark的有效载荷参数解析处理方法

作者:张文彬; 王春梅; 王静; 陈托; 智佳 中国科学院国家空间科学中心; 北京100190; 中国科学院大学计算机科学与技术学院; 北京100049
有效载荷   参数解析   实时数据处理   吞吐率   集群  

摘要:为解决单机多线程有效载荷实时参数解析处理方法存在的吞吐率低、扩展能力弱问题,提出一种基于Spark集群的有效载荷实时参数解析处理方法。采用Kafka和Spark相结合的处理方式,利用Kafka将有效载荷实时数据转换为消息队列流,Spark通过Kafka获取消息队列流的数据,利用内存对数据进行迭代运算,提高数据运算速度,实现实时的、高吞吐率的有效载荷参数解析。仿真结果表明,使用该方法在实时吞吐率上较单机多线程处理方法有较高提升,能有效满足实时参数解析的要求。

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

学术咨询 免费咨询 杂志订阅