1、“.....运算速度得到了明显提升。体系结构的研究是个主从式体系结构,但是从用户的角度来分析,其与普通的文件系统相同,都是可以经过目录的路径来对文件执行与的操作。不过根据分布式存储的固有特征,集群架构主要包括个和很多的,其大致的结构如图所示。交互日志和文件客户端读元数据操作数据块操作复制机架写客户端图的结构示意图辽宁工程技术大学硕士学位论文节点的调控分析用来管理文件系统及其命名空间,并且记录和统计文件的数据块在相应上的位置和其副本详细信息,可以协调客户端对文件的访问,并且记录命名空间内的些改动。具体的节点通过运用事务日志记录上元数据的变化,并且利用映像文件来存储管理文件系统的命名空间,其中包括文件的映射和文件的相应属性信息。事务日志和映像文件存储在本地文件系统上,当开始启动时,会从磁盘中读取事务日志和映像文件信息,然后把日志中的事务信息运用到内存的映像文件上......”。
2、“.....去除陈旧的事物日志。节点的辅助管理是协助管理映像文件和事物日志的节点,它会周期的从上复制事物日志和映像文件到其临时的目录下,然后聚合生成新的映像文件之后再重新的上传到,此后节点会更新相应的映像文件并且清理事务日志,通过这样保证事物日志的大小控制在可配置和管理的范围内。节点存储分析是用来存储实际的数据,客服端直接通过与真正的文件操作交互的。的数据是通过次写入多次读取的,而且文件大多将数据分割成大小的不同数据块,其中被分的每个数据块要尽量的分散存储在不同的上。负责处理客户端的读写请求,其会根据的命令,执行数据块的创建复制删除等工作。主从式计算系统模型的思想是分而治之,即把海量的数据集采用分别分发的方法,将其分给在个主节点管理下的各个分节点,由分节点共同完成,之后将各个分节点进行整合处理,得到最后的处理结果,图给出运用处理海量数据的过程......”。
3、“.....会对输入的文件进行切分,形成若干个相对比较小的互相间比较独立的任务块,接着运用函数对其进行处理,输出中间键值对。对于在运算的过程中产生的中间结果可先用的合并器类对其做初步的合并操作,此过程操作是在节点上运行,其用意是降低数据传输过程中产生的网络流量。然后将节点处理所得的中间结果进行分区操作,实质是调用类,接着传递给,这样就保证了中间键值对中的键值同样的可以分配到同个运行。在中实现的基本任务流程图如图所示。图的任务流程图辽宁工程技术大学硕士学位论文的会利用类根据用户在类中定义好的实现类来将输入的数据集分解成批小的数据集,每个小数据集会对应创建个来处理。而是统由来调度的,其是框架的两个最基本服务之,它主要管理着中的任务控制,其中所有的执行都由它来调度,它还负责读取出文件所在块的存储信息,又由于在系统中只配置个应用,所以和在同个节点上......”。
4、“.....是框架中另个基本服务,它运行于每台节点上,直接在子节点上进行处理,并完成在子节点上的计算存储和迁移,也用于调度的实际运行工作,并把进行中的状态和些完成情况的信息传递给。实验工作平台搭建集群搭建方案本文实验是在学院实验室硬件环境下搭建起来的,集群搭建是由台机组成,把其中台配置为主控制节点,其余台配置为工作节点。工作节点和主控节点间的连接通过全双工的以太网卡和路由器相连。在集群的搭建过程中每台计算机采用的都是的机,机身的内存配置为,的配置为双核,硬盘配置为的硬盘。除此之外,每台机器节点上都安装了相同的操作系统。集群结构示意图如图所示。路由器图集群结构示意图辽宁工程技术大学硕士学位论文的相关配置与安装在集群运行过程中需要对远端的守护进程进行管理,又要考虑集群的安全和用户自身权益,所以需要安装,其主要是对传输数据加密和对进程进行管理又由于是基于语言编写的......”。
5、“.....因此需要搭建平台,即要对进行安装而且要在集群中运行程序,故需要安装在下的运行环境。安装和配置修改机器名,即更改和,可以根据查看自己的主机名,实验搭建的台机器的地址和相应的机器名如表所示。表实验搭建信息表机器名称地址其中为节点,另三台为节点。为了实现在集群中节点间的数据传递和信息控制,需要对节点间实现无密码访问,在节点的目录下建立目录,然后进行环境配置,如下面所示当节点数量纵多的情况下需要把的文件中内容分别复制到各个节点上。实验中安装的运行版本是,并且安装完成后要对相应的环境变量进行修改。辽宁工程技术大学硕士学位论文安装与配置本文采用的版本是,其在节点上安装完成之后需要做出如下配置操作首先把的安装路径添加到中,即其次是配置中环境和配置相同最后配置中的文件,其中和文件只在节点上进行配置,如下文件上写入文件上写入其中和都进行如下配置,及修改配置文件......”。
6、“.....具体配置信息如下辽宁工程技术大学硕士学位论文修改配置文件,具体配置信息如下当所有机器节点都配置完成之后,需要对节点进行格式化操作,然后才能完成整个安装,进入的目录下,进行如下操作这些操作完成之后,进入的目录,启动操作,具体如下安装和配置本文下载的是下的版本,在开发应用时,需要首先安装插件,然后选择,选择有大象图标的,如图所示。图中图标点击图标,进入其开发环境,设置环境参数,选择标签,点击该标签最右边的大象图标,即那个齿轮状图标右侧的大象图标,打开参数设置页面,参数填写如图所示。辽宁工程技术大学硕士学位论文图参数其中参数详细填写信息描述如下此处为设置名称,可以任意填写。此处为集群的地址,应该和中的设置相同。此处为的服务器地址,应该和中的设置相同。填写完成后,点击就完成了的应用设置。实验方案设计本文对基于微博星网状子图结构的虚拟社区识别算法进行了详细的分析和说明......”。
7、“.....但是,之前的实验也存在着仅从微博节点间的空间结构出发,没有对用户的微博信息做分析,而实际微博社交网络用户间的信息发表和转发评论的规模是巨大的海量的。所以,有必要换个角度从用户发表的信息上做实验进步验证上章算法的有效性和准确性。构建微博用户信息数据模型根据对微博用户信息的研究和,邓建国时代的互联网使用行为与网民社会资本之关系考察上海复旦大学,王明明基于社会化网络的跨平台用户体验研究杭州浙江大学,潘玲琳基于关联规则的六度分隔系统设计与实现上海华东师范大学,唐咏关系和嵌入性之外中国社会工作理论本土化研究的路径选择深圳大学学报唐晋韬,王挺复杂社交网络的介数性质近似计算方法研究计算机工程与科学叶莎莎后危机时代下社交网络在数字图书馆的应用中国信息界杨博,刘大有,金弟复杂网络聚类方法软件学报,戴爱明,高学东......”。
8、“.....辽宁工程技术大学硕士学位论文吴云芳,石静,金澎基于图的同义词集自动获取方法计算机研究与发展,韩华,王娟,王慧改进的算法对加权网络社团结构的划分计算机工程与应用,王艳群,李海芳,郭浩等静息态脑功能网络的社团结构研究计算机应用,闫幸,常亚平微博研究综述情报杂志,王娟微博客用户的使用动机与行为基于技术接受模型的实证研究济南山东大学,李静基于微博广告发布技术架构的设计北京北京邮电大学,陈春霞基于复杂网络的应急物流网络抗毁性研究计算机应用研究樊鹏翼,王晖,姜志宏微博网络测量研究计算机研究与发展刘刚,刘万军,张伟基于星形用户社区模型的广告投放计算机应用与软件廉捷,周欣,曹伟等新浪微博数据挖掘方案清华大学学报自然科学版杨亮,林原,林鸿飞基于情感分布的微博热点事件发现中文信息学报周德懋,李舟军高性能网络爬虫研究综述计算机科学许晓东,肖银涛,朱士瑞微博社区的谣言传播仿真研究计算机工程廉捷......”。
9、“.....曹伟等新浪微博数据挖掘方案研究第四届信息安全漏洞分析与风险评估大会,陈虎网络划分的算法上海上海交通大学,陈康,郑纬民云计算系统实例与研究现状软件学报崔杰,李陶深,兰红星基于的海量数据存储平台设计与开发计算机研究与发展李玉林,董晶基于的模型的研究与改进计算机工程与设计刘鹏,黄宜华,陈卫卫实战北京电子工业出版社,郭本俊,王鹏,陈高云等基于的云计算模型计算机工程辽宁工程技术大学硕士学位论文,李宽基于的分布式节点模型的研究广州华南理工大学刘彤基于的数据分析系统北京北京邮电大学,覃雄派,王会举,杜小勇等大数据分析与的竞争与共生软件学报,甘长华网络安全协议的研究与实现天津天津大学,刘卫平,蔡皖东基于的安全技术研究小型微型计算机系统李成华,张新访,金海等新型的分布式并行计算编程模型计算机工程与科学李军华云计算及若干数据挖掘算法成都电子科技大学......”。
1、手机端页面文档仅支持阅读 15 页,超过 15 页的文档需使用电脑才能全文阅读。
2、下载的内容跟在线预览是一致的,下载后除PDF外均可任意编辑、修改。
3、所有文档均不包含其他附件,文中所提的附件、附录,在线看不到的下载也不会有。