文件分块论文-孟杨

文件分块论文-孟杨

导读:本文包含了文件分块论文开题报告文献综述及选题提纲参考文献,主要关键词:云存储,文件分块授权,基于属性的访问控制,Hadoop

文件分块论文文献综述

孟杨[1](2018)在《基于文件分块授权的云存储系统的设计与实现》一文中研究指出云存储是一种将存储资源放到云上供人存取的新兴方案。云存储的出现满足了大数据量的存储需求和随时随地的获取需求,可以认为,云存储实际上是一种服务,而不只是存储。现在很多市面上的云存储系统不仅会提供文件的存储服务,还会提供一些其他的服务,比如文件的同步、共享、备份等服务,而且云存储服务供应商还在这些的基础上开发了更多人性化的服务,用来提高用户体验。本文主要针对论文共享这一场景,在普通的论文共享功能的基础上,提出了论文分块共享的概念,而随之产生的是文件分块共享时的文件及文件块的授权问题。本文结合文件分块和访问控制模型,设计并实现了一个基于文件分块授权的云存储系统,通过文件分块授权,解决了论文分块共享的授权问题。系统提供了文件块授权和兴趣点文件块的批量授权两种文件分块授权功能,通过这两种功能用户可以访问论文文件中的共享文件块,也可以一次性访问一批论文中的用户感兴趣的共享文件块。本文的主要内容如下:1.在Hadoop集群中对文件进行分块处理。根据论文分块共享的需求,采取基于论文章节内容的文件分块方法进行文件分块。根据两种文件分块授权功能的需求,通过文件伪分块和基于共同授权的文件块整合方法把文件块整合成大文件,解决文件分块导致的小文件问题。提出了基于关联度的整合文件调整方法提高文件块批量授权时文件块的加载速度。2.在基于属性的访问控制(ABAC)模型中,根据文件分块授权的需求设计文件块授权的属性分配方案以及制定相应的策略。通过文件的授权和文件块的授权两个阶段的授权来实现文件块授权功能。通过把文件块的授权转化为整合文件的授权,然后从整合文件中提取相应的文件块的方式来实现兴趣点文件块批量授权功能。3.完成基础的云存储系统的设计与实现,主要是用户信息管理模块和文件操作模块的设计与实现。用户信息管理模块和文件操作模块为ABAC提供了用户及文件的属性信息,用户的信息和文件的共享方式会影响用户和文件在ABAC中的属性,从而对文件的授权产生影响。4.整合各模块实现完整的云存储系统,并对系统进行测试。首先进行各模块的功能测试,重点是文件分块授权功能的测试,并通过改变用户信息和文件分块共享的方式来进行系统在动态环境中文件分块授权功能的测试。然后进行基于共同授权的文件块的整合方法的性能测试。功能测试表明系统实现了文件分块授权的功能,并且在文件属性动态变化的时候有良好的表现。性能测试证明了本文提出的基于共同授权的文件块的整合方法能够明显的提高同章节文件块批量下载时的下载速度。总体来说,本文实现了一个基于文件分块授权的云存储系统,解决了论文分块共享的授权问题,实现了论文的分块共享。(本文来源于《西安电子科技大学》期刊2018-06-01)

许艳艳,雷迎春,龚奕利[2](2016)在《基于可变长分块的分布式文件系统设计与实现》一文中研究指出分布式文件系统受传统磁盘文件系统影响,大多使用固定大小的对象或者块来组织和管理文件。定长的分块不适合随机写或插入写,开销大且性能差,但典型的用户约有25%的文件操作是随机写。针对上述现状,提出一种基于内容的可变长文件分块方法,使用拉宾指纹算法对文件进行分块,并根据文件的内容标识文件块。为更准确地指定写类型,提高写性能,给出与POSIX语义兼容的写接口。通过修改Ceph实现一种新的分布式文件系统VarFS,提供文件的可变长分块并支持新的写接口。实验结果表明,由于减少网络数据传输量,VarFS在随机写延迟和带宽消耗量上比Ceph减少了1个~2个数量级。(本文来源于《计算机工程》期刊2016年05期)

陈冈,夏火松[3](2015)在《基于异步文件通道的Java Web多任务分块文件上传》一文中研究指出针对目前多数基于同步阻塞式处理模式、采用Java字节码数据流方式进行读写操作的低效率处理技术,将异步文件通道与线程池结合,通过数据分块和读写处理的异步执行,构造一种基于非阻塞数据传输模式的文件上传处理架构,讨论了关键技术的实现方法。实际测试数据的结果表明:与常规方案相比,所提出的技术方案具有非常明显的效率优势,对于Java Web系统开发具有较好的应用参考价值。(本文来源于《河南理工大学学报(自然科学版)》期刊2015年03期)

邓笋根[4](2014)在《克希霍夫偏移成像分块策略对文件I/O的影响》一文中研究指出现在叁维地震勘探数据通常都在TB量级,地震勘探处理中文件I/O的时间花费越来越引起了人们的关注。常规的偏移成像算法分块通常按照先inline再xline的顺序来分块,这样分块看上去比较简单直接,而且算法实现上比较容易。但这样分块会导致整个偏移过程中总的文件I/O量与原输入数据相比特别大。常规分块算法对小规模地震数据文件处理时,增加的文件I/O所花费的时间与偏移的时间相比不是很明显,因此因分块导致的文件I/O量的增加常常被人们所忽视。当处理的地震数据量大时,如现在的TB量级的叁维地震数据,常规的分块算法导致I/O量的增加就突出了,通常达到了原数据的700~800倍,相当于读入700~800TB的数据,由此所消耗的读取时间也是惊人的,若换算到由单结点去读取,则需要花费4个月的时间。为此,我们提出二维分块算法,其基本思想来源于偏移成像的有效地震道分布依赖于定义的偏移孔径,将成像分块的方式从常规的inline优先改为inline和xline方向同等,形成一个个接近正方形的成像区域。在结点能装载的成像区域同等情况下,二维分块算法完成成像所需要读入的地震道数量比常规分块算法要明显的少。(本文来源于《科研信息化技术与应用》期刊2014年05期)

周平,刘晓洁[5](2014)在《基于两级分块的文件同步方法》一文中研究指出针对Winnowing分块算法存在的分块效率较低以及分块粒度相对较粗等问题,提出了一种基于两级分块的文件同步方法(double-chunking file synchronization,DF-RSYNC)。该方法采用循环队列对每一个固定窗口内滑动块的局部字节指纹值进行存储,以避免对重迭部分滑块指纹值的重复计算,并采用分块粒度由粗到细的两级分块、两轮往返的同步算法,以提高差异检测的准确率,减少差异数据量。实验结果表明,该方法能够有效减少分块时间,提高差异计算的效率;能够更细粒度地检测到文件差异,从而提高了检重率。(本文来源于《计算机工程与设计》期刊2014年03期)

邹鹤敏,黄海于[6](2013)在《大文件分块上传和下载软件的设计与实现》一文中研究指出针对大文件在网络存储过程中可能存在的上传和下载失败问题,提出了一种利用数据库进行分块存储和管理较大文件的方法。将一个较大的文件分割成多块,分别对分割后的每一块进行上传或下载,从而避免了网络因素对直接上传和下载较大文件所产生的影响。测试表明,通过所提出的分块与合并方法,可以有效地避免文件上传和下载过程中可能出现的失败问题,提高了上传和下载的效率。(本文来源于《电子技术应用》期刊2013年08期)

马学韬,施亮[7](2011)在《一种基于VTD-XML模型的XML文件分块解析方法》一文中研究指出针对提升XML文档解析处理速度的问题,提出了一种基于VTD(Virtual Token Descriptor)模型的分块解析方法。该方法对XML文档进行分割、分块解析,并利用VTD-XML解析模型的无提取等特点构建了文件块结构缓存,用于对分块提取的记录进行合并校验。同时给出了方法的应用实例,并在FPGA硬件平台上实现了该方法的原型,实验证明该方法能明显提高XML文件的解析处理速度。(本文来源于《计算机应用与软件》期刊2011年01期)

黄珍生[8](2010)在《一种基于带宽的文件分块动态下载模型》一文中研究指出讨论在并行下载期间服务器的输出带宽和客户机的输入带宽对并行下载效率的影响,以及一个客户机实施并行下载时能同时使用的服务器数量。提出一种文件分块动态并行下载模型,并在网格结点上进行模拟实验。实验结果表明,在对较大目标文件进行下载时,所提模型的并行下载性能优于一般的静态和动态并行下载模型。(本文来源于《计算机应用与软件》期刊2010年10期)

刘小珠,彭智勇,陈旭[9](2010)在《高效的随机访问分块倒排文件自索引技术》一文中研究指出针对倒排索引空间开销大、查询时间效率低以及难以同时支持连接布尔查询和排序查询的问题,提出了一种同时提高空间效率与查询时间效率的高效随机访问分块倒排文件自索引RABIF.为了在降低空间消耗的同时支持连接布尔查询与排序查询,RABIF将倒排列表进行合理地分块,然后对每个子块的不同部分采用相应的压缩方式,在不需要插入任何附加辅助信息的前提下实现压缩索引的快速定位与随机访问.理论分析及实验结果表明,与忽略倒排文件自索引SIF相比,提出的RABIF空间开销平均减少5.3%,布尔查询时间平均减少17.8%;对于0.2%与1%排序查询,查询时间分别平均减少34.4%与27.5%.(本文来源于《计算机学报》期刊2010年06期)

王飞,翼宏生,杨坚[10](2008)在《集群式VoD系统中文件分块存储策略》一文中研究指出在VOD点播中,用户主动中断点播会造成影片不同时间段的部分被访问的概率不同,给传统的分块策略带来了负载不均衡问题。该文分析用户在VoD点播时中断点播的行为模式,在此基础上建立分析点播中断概率的模型,提出一种改进的分块存储策略。仿真表明,改进的策略能够更好地实现负载均衡,提高系统运行效率。(本文来源于《计算机工程》期刊2008年21期)

文件分块论文开题报告

(1)论文研究背景及目的

此处内容要求:

首先简单简介论文所研究问题的基本概念和背景,再而简单明了地指出论文所要研究解决的具体问题,并提出你的论文准备的观点或解决方法。

写法范例:

分布式文件系统受传统磁盘文件系统影响,大多使用固定大小的对象或者块来组织和管理文件。定长的分块不适合随机写或插入写,开销大且性能差,但典型的用户约有25%的文件操作是随机写。针对上述现状,提出一种基于内容的可变长文件分块方法,使用拉宾指纹算法对文件进行分块,并根据文件的内容标识文件块。为更准确地指定写类型,提高写性能,给出与POSIX语义兼容的写接口。通过修改Ceph实现一种新的分布式文件系统VarFS,提供文件的可变长分块并支持新的写接口。实验结果表明,由于减少网络数据传输量,VarFS在随机写延迟和带宽消耗量上比Ceph减少了1个~2个数量级。

(2)本文研究方法

调查法:该方法是有目的、有系统的搜集有关研究对象的具体信息。

观察法:用自己的感官和辅助工具直接观察研究对象从而得到有关信息。

实验法:通过主支变革、控制研究对象来发现与确认事物间的因果关系。

文献研究法:通过调查文献来获得资料,从而全面的、正确的了解掌握研究方法。

实证研究法:依据现有的科学理论和实践的需要提出设计。

定性分析法:对研究对象进行“质”的方面的研究,这个方法需要计算的数据较少。

定量分析法:通过具体的数字,使人们对研究对象的认识进一步精确化。

跨学科研究法:运用多学科的理论、方法和成果从整体上对某一课题进行研究。

功能分析法:这是社会科学用来分析社会现象的一种方法,从某一功能出发研究多个方面的影响。

模拟法:通过创设一个与原型相似的模型来间接研究原型某种特性的一种形容方法。

文件分块论文参考文献

[1].孟杨.基于文件分块授权的云存储系统的设计与实现[D].西安电子科技大学.2018

[2].许艳艳,雷迎春,龚奕利.基于可变长分块的分布式文件系统设计与实现[J].计算机工程.2016

[3].陈冈,夏火松.基于异步文件通道的JavaWeb多任务分块文件上传[J].河南理工大学学报(自然科学版).2015

[4].邓笋根.克希霍夫偏移成像分块策略对文件I/O的影响[J].科研信息化技术与应用.2014

[5].周平,刘晓洁.基于两级分块的文件同步方法[J].计算机工程与设计.2014

[6].邹鹤敏,黄海于.大文件分块上传和下载软件的设计与实现[J].电子技术应用.2013

[7].马学韬,施亮.一种基于VTD-XML模型的XML文件分块解析方法[J].计算机应用与软件.2011

[8].黄珍生.一种基于带宽的文件分块动态下载模型[J].计算机应用与软件.2010

[9].刘小珠,彭智勇,陈旭.高效的随机访问分块倒排文件自索引技术[J].计算机学报.2010

[10].王飞,翼宏生,杨坚.集群式VoD系统中文件分块存储策略[J].计算机工程.2008

标签:;  ;  ;  ;  

文件分块论文-孟杨
下载Doc文档

猜你喜欢