大数据海量存储技术(数据仓库和数据库的区别)
发布时间:2022-07-12 21:52:18
文章来源:快乐收录网
访问次数:
随着技术的演进、业务的需求,个人和企业都会产生大量的数据,对于GB级数据 ,最便捷的方式就是将移动硬盘连接到计算机保存数据 。对于TB级数据 ,可以购买服务器插上硬盘 ,格式化文件系统实现数据保存。
但是对于PB级数据 ,就不能简单地购买服务器快速搭建,必须考虑海量数据安全、稳定、高可用的存取,以及解决网络、服务器 、硬盘的故障,此时需要采用基于分布式技术的对象存储。
1956年,IBM发布350DiskStorage Unit, 它是第一代真正意义上的磁盘存储 (HDD)。它的体积约为2个中等大小的冰箱,只能存放3.75MB数据,只有1个机械臂(包含2个读/写磁头)。
2020年的20TB硬盘容量是第一代硬盘的560万倍,尺寸也只有普通人手掌大小。而且,介质技术逐步发展为固态硬盘 (SSD),将硬盘的机械技术变革为电子存储技术,存储密度和访问时延大幅提升。
存储技术的发展除围绕盘自身技术的演进外,还围绕着数据的高可靠性、高性能、易管理、易分享等需求在存储系统层不断创新。
尽管盘的技术在飞速发展,但是它无法解决单块盘出现故障带来的数据丢失问题。为此,业界引入了廉价磁盘冗余阵列 (RAID) 技术,如 20世纪 70年代实现的镜像技术 (RAIDl),以及此后演化的存储区域网络(SAN) 。
通常 ,SAN是一台外置存储设备,可以装入多块盘,在单块盘出现故障后还能继续工作。使用存储区域网络,在主机层面就像使用普通硬盘一样。
盘本身只提供线性地址空间,主机访问盘时通常按照逻辑区块地址(LBA) 读/写数据。
盘本身不具备数据管理能力,无法直接存放一首音乐 、一段视频,可以通过在盘上格式化文件系统 (FileSystem) 来解决这个问题,文件系统对外体现为树形结构的目录和文件,应用和使用者可以放入图片、音频、视频文件,简单易用。但是,不管是单机的文件系统还是集群的文件系统,都不利于更多的机器共享使用 。
于是,20世纪80年代,业界发明网络附加存储 (NAS),它通过网络文件系统 (NFS) 协议或通用互联网文件系统 (CIFS) 协议提供文件共享服务,主机通过NFS或CIFS客户端指定NAS的网络IP地址访问共享文件夹 ,实现数据的过NAS的共享文件服务可提供很好的数据分享平台。
但是随着访问客户端数目的增加,再加上每个客户端存储的文件越来越多,海量文件存储的难题呈现在我们眼前。
文件系统目录深度和海量文件存储扩展性的矛盾。文件系统目录树是纵向设计的,为了满足应用,用户按如同图书目录的方式一级一级地管理文件。如果不同的客户端主机存放上亿的文件,而且目录深度是几十层,那么将是矩阵式的乘法效应,这对NAS来说是巨大的挑战。
为了解决海量文件存储的难题,20世纪90年代,对象存储技术诞生了 。
对象存储服务,采用桶和对象的平坦模式数据组织模型,对比文件系统树形目录结构数据模型,元数据管理大大简化,从而便于横向扩展 。同时,对象存储采用域名系统 (DNS) 作为访问的入口,可将域名和多个网络IP关联,轻松实现网络扩展。
星驰云存储产品基于对象存储,一站式完成图片处理和音视频处理。具备跨区域同步、生命周期管理等核心功能及服务,提供全行业真实数据的存储服务,丰富存储行业生态。
《大数据海量存储技术(数据仓库和数据库的区别)》更新于时间:2022-07-12 21:52:18;由本站小编进行发布,目前浏览的小伙伴达到,感谢你们的支持,后期快乐收录网小编会继续为大家更新更多相关的文章,希望广大网友多多关注快乐收录网工作心得栏目,如果觉得本站不错,那就给我们一个分享的支持吧!
大数据海量存储技术(数据仓库和数据库的区别)特别声明
本站快乐收录网提供的大数据海量存储技术(数据仓库和数据库的区别)都来源于网络,不保证文章的准确性和真实性,同时,对于该文章所造成的影响,不由快乐收录网实际控制,在2022-07-12 21:52:18收录时,该网页上的内容,都属于合规合法,如有侵权违规,可以直接联系网站管理员进行整改或删除,快乐收录网不承担任何责任。
快乐收录网:致力于优质、实用的网络站点资源收集与分享!本文地址:https://nav.klxjz.cn/zixundaquan/wzyh/202207/8681.html转载请注明标签:
- 1华为 Nova 10 和 Nova 10 Pro 配备 120 Hz OLED 显示屏
- 2Realme GT2 Master Explorer Edition设计随着高端智能手机发布之旅的开始而揭晓
- 3Wi-Fi 7 技术将支持 40Gbps 的速度
- 4小米 11T 和 11T Pro 配备相同的 108 MP 摄像头
- 5Garmin Forerunner 955 系列收到软件版本 11.12
- 6到 2026 年翻新智能手机市场的价值预计将增长近 460 亿美元
- 7小米发布 Band 7 Pro 固件更新 进行各种改进和优化
- 8苹果最新的MacBook Air产品将影响 Wintel 笔记本电脑的销售
- 9戴尔 Precision 7770 和 7670 现在可与英特尔第 12 代博锐 CPU 和 Nvidia RTX A5500 显卡一起购买
- 10System76 使用 Intel Alder Lake-U 处理器升级其基于 Linux 的 Lemur Pro 笔记本电脑
- 11苹果计划在今年发布标准 Watch Series 更新的替代品
- 12OnePlus的10T发布了新旗舰智能手机发布前的最高AnTuTu分数
- 13摩托罗拉 Edge 30:搭载 Android 12 的超薄中端智能手机
- 14小米 12智能手机相机是如何拍摄的
- 15NintendoSwitchOnline下周将获得被低估的神奇宝贝经典
- 16MUJI x Honda MS01 电动自行车透露最高时速 25 公里和无钥匙解锁功能
- 17Infinix 最新 Note 12 系列智能手机升级至 5G 起价低于 200 美元
- 18Amazfit 正在举行 2022 年年中的促销活动
- 19AMD 的 RDNA 3 Chiplet 专利详述了尖端着色器优化架构