三、存储基础知识

摘要本文系统介绍存储技术的基础知识与关键实现。第一部分从存储的定义出发梳理存储发展历程、主流硬盘类型、存储组网方式DAS、NAS、SAN以及集中式与分布式存储形态第二部分深入讲解RAID技术的基本概念、数据组织形式、数据保护方式、热备与重构机制并介绍RAID 6 DP、RAID 2.0等进阶技术最后概述SCSI与iSCSI等存储协议。1.存储基础介绍1.1什么是存储存储是指在计算机或其他电子设备上存储和管理数字信息的过程。它既可以包括物理存储设备如硬盘和固态硬盘也可以包括虚拟存储系统如云存储服务存储是指在计算机或其他电子设备上存储和管理数字信息的过程。它既可以包括物理存储设备如硬盘和固态硬盘也可以包括虚拟存储系统如云存储服务1.2存储发展历程从硬盘到磁盘阵列从分离到融合分布式存储通过软件将物理资源组织起来构成高性能逻辑存储池在保证可靠性的同时提供多种存储服务一般而言分布式存储是将数据分散存储在多台独立的设备上采用可扩展的系统结构、利用多台存储服务器分担存储负荷、利用位置服务器定位存储信息存储虚拟化存储虚拟化可以将存储设备进行抽象以逻辑资源的方式呈现统一提供全面的存储服务可以在不同的存储形态或设备类型之间提供统一的功能云存储云存储系统是一个多存储设备、多应用、多服务协同工作的集合体它使用高度虚拟化的多租户基础设施为企业提供可扩展的存储资源可以根据组织的要求动态配置1.3主流硬盘类型硬盘是计算机最主要的存储设备硬盘接口是硬盘与主机系统间的连接部件作用是在硬盘缓存和主机内存之间传输数据。不同的硬盘接口决定着硬盘与计算机之间的连接速度直接影响着程序运行快慢和系统性能好1.4存储组网类型DAS存储简介基本不用NAS存储NASNetwork Attached Storage网络附加存储是一种将分布、独立的数据进行整合集中化管理以便于对不同主机和应用服务器进行访问的技术SAN存储SANStorage Area Networks存储区域网络是通过专用高速网将一个或多个网络存储设备和服务器连接起来的专用存储系统FC-SANIP-SAN三种存储组网总结对比1.5存储形态简介集中式存储集中式存储系统即整个存储是集中在一个系统中的。企业级的存储设备一般都是集中式存储。但集中式存储并不是一个单独的设备是集中在一套系统当中的多个设备。以华为公司的存储为例整个存储系统可能需要几个机柜来存放。集中式存储按照技术架构可以划分为SAN和NAS其中SAN又可以细分为FC-SAN、IP-SAN集中式存储最大的特点就是部署结构简单无需考虑如何对服务进行多个节点的部署也就不用考虑多个节点之间的分布式协作问题分布式存储分布式存储系统是将数据分散存储在多台独立的服务器上。分布式网络存储系统采用可扩展的系统结构利用多台存储服务器分担存储负荷它不但提高了系统的可靠性、可用性和存取效率还易于扩展。随着分布式存储越来越普及现在一些对性能要求比较高的应用也开始使用分布式存储比如金融系统的数据库存储业务类型2.存储关键技术2.1RAID技术RAID基本概念RAIDRedundant Array of Independent Disks独立硬盘冗余阵列RAID技术将多个单独的物理硬盘以不同的方式组合成一个逻辑硬盘从而提高了硬盘的读写性能和数据安全性根据不同的组合方式可以分为不同的RAID级别RAID 0数据条带化无校验RAID 1数据镜像无校验RAID 3数据条带化读写校验信息存放于专用硬盘RAID 5数据条带化校验信息分布式存放RAID 6数据条带化分布式校验并提供两级冗余同时采用两种不同的RAID方式还能组合成新的RAID级别RAID 01先做RAID 0后做RAID 1同时提供数据条带化和镜像RAID 10类似于RAID 01区别在于先做RAID 1后做RAID 0RAID 50先做RAID 5后做RAID 0能有效提高RAID 5的性能RAID的数据组织形式硬盘的条带化将硬盘空间按照设定的大小分为多个条带数据写入时也按照条带的大小来划分数据模块条带strip硬盘中单个或者多个连续的扇区构成一个条带是组成分条的元素分条stripe同一硬盘阵列中的多个硬盘驱动器上的相同“位置”或者说是相同编号的条带RAID的数据保护方式方法一镜像Mirroring在另一块冗余的硬盘上保存数据的副本方法二奇偶校验算法XOR XOR运算广泛地使用在数字电子和计算机科学中 XOR校验的算法—相同为假相异为真 0⊕00 0⊕11 1⊕01 1⊕10RAID热备和重构概念热备Hot Spare的定义:当冗余的RAID组中某个硬盘失效时在不干扰当前RAID系统正常使用的情况下用RAID系统中另外一个正常的备用硬盘自动顶替失效硬盘及时保证RAID系统的冗余性热备一般分为两种:全局式备用硬盘为系统中所有的冗余RAID组共享专用式备用硬盘为系统中某一组冗余RAID组专用常见RAID级别介绍RAID 6 DP工作原理DPDouble Parity就是在RAID 4所使用的一个行XOR校验硬盘的基础上又增加了一个硬盘用于存放斜向的XOR校验信息横向校验盘中P0-P3为各个数据盘中横向数据的校验信息例P0D0 XOR D1 XOR D2 XOR D3斜向校验盘中DP0-DP3为各个数据盘及横向校验盘的斜向数据校验信息例DP0D0 XOR D5 XOR D10 XOR D15RAID 2.0技术介绍RAID 2.0增强型RAID技术有效解决了机械硬盘容量越来越大重构一块机械硬盘所需时间越来越长传统RAID组重构窗口越来越大而导致重构期间又故障一块硬盘而彻底丢失数据风险的问题RAID 2.0在RAID 2.0的基础上提供了更细粒度可以达几十KB粒度的资源颗粒形成存储资源的标准分配及回收单位类似计算虚拟化中的虚拟机我们称之为虚拟块技术华为RAID 2.0是华为针对传统RAID的缺点设计的一种满足存储技术虚拟化架构发展趋势的全新的RAID技术其传统固定管理模式为两层虚拟化管理模式在底层块级虚拟化Virtual for Disk硬盘管理的基础之上通过一系列Smart效率提升软件实现了上层虚拟化Virtual for Pool的高效资源管理RAID 2.0块虚拟化技术存储的数据最终都会存储到SSD盘上如果有些盘片上存放的数据不均匀就可能导致某些压力大的SSD盘成为系统的瓶颈为应对该问题华为存储系统采用新型的RAID 2.0块虚拟化技术通过更细粒度的划分实现所有LUN的数据均衡地分布在每块SSD盘上实现盘的负载均衡2.2存储协议SCSI协议SCSISmall Computer System Interface小型计算机系统接口最初是一种为小型机研制的接口技术用于主机与外部设备之间的连接iSCSI协议iSCSIInternet SCSI把SCSI命令和块状数据封装在TCP中在IP网络中传输基本出发点是利用成熟的IP网络技术来实现和延伸SANiSCSI的发起端与目标端2.3FC协议与TCP协议融合从现有的情况来看以太网技术和FC技术都在飞速发展IP-SAN和FC-SAN在很长的一段时间内都将是并存且互为补充的TCP/IP网络承载FC信道方式iFCP和FCoEiFCPInternet Fibre Channel Protocol是一种网关到网关协议为TCP/IP网络中的光纤通道设备提供光纤通道通信服务实现端到端IP连接iFCP协议位于光纤通道和TCP/IP之间这意味着iFCP可以与光纤通道或TCP/IP进行交互FCoEFibre Channel over Ethernet以太网光纤通道。FCoE允许在一根通信线缆上传输LAN和FC SAN通信融合网络可以支持LAN和SAN数据类型减少数据中心设备和线缆数量同时降低供电和制冷负载收敛成一个统一的网络后需要支持的点也跟着减少了有助于降低管理负担。FCoE把FC帧封装在以太网帧中允许LAN和SAN的业务流量在同一个以太网中传FCoE将FC-2及以上层的内容封装成以太网报文进行传输3.总结存储基础DAS直连存储现已少用NAS以太网文件存储NFS/SMB 协议SAN块存储FC‑SAN光纤、IP‑SANiSCSI集中式存储资源一套设备内部署简单扩容受限分布式存储数据分散多台服务器易横向扩展可靠性高RAID独立磁盘冗余阵列RAID0条带高性能无冗余坏盘全丢RAID1镜像2 份副本可坏半数盘RAID5分布式校验允许坏1 块盘RAID6双重校验允许坏2 块盘RAID10先镜像后条带RAID50先 RAID5后条带保护方式镜像、XOR 异或校验热备全局热备所有 RAID 共用、专用热备仅一组 RAID盘故障后做重构恢复冗余RAID6‑DP横向 P 校验 斜向 DP 双重校验支持 2 块盘故障RAID2.0盘切细粒度块缩短重构时间数据打散解决热点盘两层虚拟化存储协议SCSI主机与存储底层通信协议iSCSISCSI 封装 TCP/IPIP‑SANInitiator 发起端 (服务器)Target 目标端 (存储)iFCPFC 封装 TCP/IP 传输FCoEFC 帧封装以太网LAN/SAN 共网不走 TCPFC‑SAN 与 IP‑SAN 长期并存口诀NAS 文件 SAN 块0 无 1 镜 5 单 6 双iSCSI 跑 TCPFCoE 跑以太网。