数据中心
Internet Data Center,即IDC,专门对数据进行集中管理,包括存储、计算、交换。数据中心是数字经济的基本设施。
定义,功能与分类标准
数据中心是一套复杂的设施,包括计算机系统和其他与之配套的设备,例如通信、存储、环境控制设备、监控等
主要标准
国标【数据中心设计规范】GB50174-2017
国标【互联网数据中心工程技术规范】GB51195-2016
邮电标准【互联网数据中心IDC工程设计规范】YD5193-2014
级别分类
一、按国内GB50174-2017分类
A级:运行中断将造成重大损失;造成公共场所秩序严重混乱
B级:运行中断将造成较大损失;造成公共场所秩序混乱
C级:不属于A、B级,均为C级数据中心
二、按国际标准TAL-942-B-2017分类
基级:数据中心只具有一组线,缺乏冗余设备
冗余设备级:具备设备冗余,但仍然只有一组线
平行维护级别:所有计算机都有双电源,有几套动力配电系统连接设备
容错级:具备水平多重、独立、相互冗余设备物理上分离,所有设备有双电源
选址
海拔高、气温低、非地震带、电费成本、政策导向。
数据中心的基础设施组成及现状
基础设施:机房、装修、供电、散热、综合布线、安防、空调等
物理设施:机柜、服务器、网络设备、网络安全设备、存储设备、灾备设备等
基础软件:操作系统、数据库软件、防病毒软件
管理支撑软件:机房管理软件、集群管理软件、云平台软件、虚拟化软件等
未来发展
计算机时代:需求大,集中化自动化管理
互联网时代:需求小,分散化,设施多单点故障
云计算时代:智能模块化,有节能压力,需精细化管理
传统数据中心现状
资源物理隔离,跨DC业务部署复杂
网络架构局限,传统组网不适宜云数据中心大规模组网,STP只支持50个网络节点
资源利用率低、业务恢复时间长、需手工分配资源、运维门槛高
云计算概述
发展与影响
出现背景
IT基础设施能耗高
服务器更新速度快,升级费用昂贵。中小企业计算能力需求不平衡
现有企业IT基础设施利用率低
云计算演进
自建机房,企业独自完成所有工作——>IDC托管,无需建设机房,需购买硬件——>云计算,只需购买资源,不许担心硬件设备的性能限制
云计算的影响
提高各行业信息化、智能化程度
人类社会变成以信息为中心的社会,社会组织、企业活动主要通过互联网进行
云计算成为与水电、煤一样的基础设施
概念与优劣
云计算的定义
云计算是一种能够通过网络以便利的、按需付费的方式获取计算资源,这些资源来自一个共享的、可配置的资源池,并能够以最省力和无人干预的方式获取和释放——美国国家标准语技术研究院
所有计算能力、存储能力和各种功能的应用都通过网络从网络获得
用户无需更换昂贵的高性能电脑,无需购买、安装和维护各种系统、软件,无需担心数据安全存储
云计算的特征
超大规模。基本拥有十万~百万数量级的服务器
虚拟化。通过虚拟化将一台计算机虚拟成多个逻辑计算机,各计算机相互独立,可分享至不同用户
按需服务。云是一个庞大的资源池,用户通过支付不同费用以获得不同级别的服务。
功能性特征
高可靠性:软硬件层面的数据多副本容错等措施,使云计算比本地计算机可靠
高扩展性:跟随业务发展对云资源进行调整和动态伸缩
通用性:有效支持业界多数有效且不同类型的应用
经济廉价:云是自动化集中式管理,无需企业承担高昂的数据中心管理成本
自动化:云中的应用、服务、资源的部署等,均通过自动化当时执行和管理
运维机制完善:云的管理端是专业团队、先进的数据中心团队。
云计算的目标:像用电、水、气一样使用IT资源
云计算的优缺点
优势 | 劣势 |
---|---|
对社会:降低能耗、减排;提高IT设备使用率;信息技术进一步合理分工;有利于全社会共享信息,打破信息孤岛 | 严重依赖网络:数据可能泄漏的环节增多,风险集中 |
对消费者:降低投入和使用成本;提高了系统的可靠性、安全性、用户体验;专注于核心业务;快速响应对资源的弹性需求 | 主权降低:用户对技术和数据的掌控度下降 |
云计算的核心技术
技术架构
物理资源层:包括计算机、存储器、网络设备、数据库等
资源层:将同类型的资源构成同构或接近同构的资源池,是物理资源的集成和管理
管理中间件:对云资源进行管理,并对众多应用任务进行调度(关键部分)
SOA构建层:将云计算能力封装成标准的服务,并进行管理和使用(关键部分)
关键技术
一、虚拟化
定义:计算元件在虚拟的而不是真实的基础上运行,使用虚的软件替代模拟实体服务器设备。
虚拟化是将物理资源转变为具有可管理性的逻辑资源,从而将物理资源融为一个整体。虚拟机是模拟出的一台计算机,理论上等同于实体机。虚拟化的对象是各种各样的资源;经过虚拟化后的逻辑资源对用户隐藏了不必要的细节;用户在虚拟环境中可实现同等真实环境中部分或全部功能。
服务器虚拟化:将一台服务器虚拟成若干虚拟服务器,支持多个操作系统同事运行
桌面虚拟化:虚拟化计算机终端系统,可通过任何设备、时间地点通过网络访问个人桌面,例如学校机房
存储虚拟化:对存储硬件资源进行抽象化表现,例如云盘
网络虚拟化:一个物理网络上模拟出多个逻辑网络
应用虚拟化:将应用对底层的系统和硬件的依赖抽象出来,解决版本不兼容的问题
虚拟化技术分类:全虚拟化、半虚拟化、硬件辅助虚拟化、操作系统级虚拟化(容器虚拟化)、软件虚拟化
二、海量数据存储与处理
云计算的数据量往往大于传统IT架构,因此通常采用分布式存储,实现高扩展性、更大容量以及更高性能。
分布式存储优点
系统可架设在容易失效的廉价硬件平台上
可存储大量GB、TB级大文件
整合集群所有存储空间,并对外提供文件访问服务
高扩展性、大容量、适合大规模数据的性能要求
数据存储
通过ecph、Hadoop(HDFS)实现海量数据的存储,将存储单元分块后进行管理
数据处理
海量数据的梳理需要抽象处理过程,并且要求其编程模型支持规模扩展,并屏蔽底层细节。例如并行编程模型MapReduce
三、资源管理与调度技术
副本管理:副本的创建、管理与快照生成。
任务调度算法:尽量提高利用率、用户成本最小
任务容错机制:在系统存在故障情况下,仍然能够处理任务并输出正确结果。
四、服务管理技术
为了使云技术核心服务高效、安全运行,需要服务管理技术加以支持
Qos保证机制:服务质量保障机制,用于解决网络延迟、阻塞等技术,主要应用于关键应用或媒体应用
安全与隐私保护技术:保护方法有 数据扰乱、加密存储、安全多方计算、身份认证、访问控制等
资源监控技术:反映服务器状态以及服务质量
服务计费模型:云服务的计费模型十分复杂,使得用户更好理解云服务的计费模式
五、云计算管理平台
技术应用看:计算型云平台、存储型云平台、综合云计算平台
是否收费看:开源云计算平台(OpenStack、hadoop)、商业化云计算平台
云计算的发展趋势
封闭——>开源;单一解决方案——>融合;统一管理——>自动化实现;紧耦合——>模块化设计
云计算分类
分类体系
公有云
对公众开放的云服务,可支持大量用户的并发请求,所有程序和数据都存在公有云平台,无需用户前期大规模投资和建设。运营成本较低,但有数据安全和隐私的问题。例如亚马逊云、谷歌云、微软云等
优势:规模庞大、价格低廉、容量灵活、功能全面
私有云
建设、运营和使用均为某个组织或企业内部完成,服务对象也是组织内部,其他人无权使用。
本地私有云:部署在企业内部,完全由企业自己实现并管理,适合运行企业中关键的应用
托管私有云:计算设备可自己购买,也可租用第三方云端资源,使用时通过专线或VPN连接使用
优势:数据安全(相对公有云)、服务稳定、硬件资源利用率高、支持定制和遗留应用、可完全控制私有云
劣势:初期成本开支高、持续运营成本偏高(云计算维护团队)
社区云
服务于特定范围的群体,介于单位和公开之间,一般由几家企业联合管理提供给自己使用的。
混合云
两个或两个以上不同类型的云组成,并增加了一个混合云管理层。消费者通过管理层使用资源,感觉就像在使用同一个云端的资源,但实际内部被混合云管理层路由到真实的云端。
优势
架构更加灵活,根据负载灵活分配最适合的资源,例如内部数据保存在本地云端,非机密数据移动到公共云
技术更容易掌握,根据实际情况,私有云部分可以自己掌控技术
充分利用现有硬件条件,同时具备私有云的保密性和公共云的抗灾性
满足合规性要求:混合云融合了专门的硬件设备,提高了网络安全性,更容易通过审计员的合规性检查
更低的费用:租用第三方资源来平均短时间内季节性资源需求峰值
应用场景
IDC公有云
传统IDC无法满足用户需求,IDC公有云在原有IDC的基础上加入系统虚拟化、自动化管理和能源监控云。使得IDC服务更加强大、方便、灵活。现已成型的IDC公有云有亚马逊的AWS和阿里云的ECS。
企业私有云
企业私有云能够帮助企业提升内部数据中心的运维水平,转变了过去的企业云解决方案,即从过去的软硬件思维转变为以提供服务为主,使IT人员专注于核心业务。企业私有云的优势在于建构灵活性和数据安全性,但企业需要付出更高的维护成本、构建专业的技术队伍。
云存储系统
整合网络中多种存储设备来对外提供云存储服务。可以管理数据的存储、备份、复制和存档。例如网盘、对象存储。
虚拟桌面云
使用桌面虚拟化技术,将用户的桌面环境与其使用的终端解耦,在服务端以虚拟镜像的形式统一存放和运行每个用户的桌面环境,用户通过小型的熊段设备来访问桌面环境。例如Citrix的XenDesktop、VMwareView
开发测试云
通过友好的Web界面,可预约、部署、管理和回收整个开发测试环境,解决开发测试过程中的棘手问题。通过快速备份、恢复等技术重现问题、利用云的计算能力对应用进行压测。
大规模数据处理云
可对海量数据进行大规模处理,进行数据分析、发现可能存在的商机和存在的问题,帮助企业做出更好的决策。
电子政务云
利用云计算技术对政府管理和服务职能进行精简、优化、整合,通过信息化手段在政务上实现各种业务流程办理和智能服务,提高政府服务。
游戏云
基于web即游戏模式,适合休闲游戏;
大容量高画质的专业游戏,整个游戏运行在云种,将最新生成的画面传至客户端
云杀毒
在云中附带庞大的病毒特征库,当发现有嫌疑的数据时,可将其上传至云中,通过庞大的特征库和强大的处理能力来分析这个数据是否含有病毒。
主流产品
OpenStack:开源云计算管理平台项目,主要为公有云、私有云建设与管理提供软件的开源项目,不是单个软件,而是一系列开源项目的组合。
Kubernetes:可移植、可扩展的开源云平台,用于管理容器化的工作负载和服务。拥有庞大且快速增长的生态,服务、支持、工具的适用范围相当广泛。
阿里云产品:阿里云ECS,IaaS级别云计算服务。对象存储OSS云存储服务
腾讯云TStack:企业级私有化全栈云解决方案,满足国内主流加厚的综合云部署,在政府、企业有大量落地经验
华为云会议:提供全场景云协同视频会议解决方案,满足跨地区、跨企业、跨终端的智能沟通协作需求,支持各类终端接入。
百度ARM云桌面:ARM集群服务器及容器技术,为企业提供高性价比、安全合规、开箱即用的新型办公云桌面。
云计算架构
云计算服务模型*
云服务提供:面向消费者,提供统一界面登录访问,按需计费管理消费者状态和请求简化和标准化。
云服务管理:运行维护云计算架构系统,保证云架构稳定可靠
云服务资源:Saas、PaaS、IaaS
架构核心特征
Saas、PaaS、IaaS的区分
自建房:传统架构,建设成本高,投入时间长
毛坯房:无需自建设,存在装修、购买家电等成本,也就是IaaS
精装房:PaaS
酒店/宾馆:SaaS,只有短期住房需求,拎包入住
云计算服务提供商可以专注于自己所在的层次,无需拥有三个层次的服务能力,上层可以利用下层来实现自己计划提供的云计算服务。
各服务层次特点
基础设施即服务IaaS
三层架构的最底层,将计算资源、存储资源、网络资源当成服务提供给用户。主要由计算机硬件、网络、存储设备、平台虚拟化、计费方法、服务级别协议组成。主要产品是各头部厂商亚马逊云、阿里云、腾讯云等
平台即服务PaaS
三层架构的中间层,主要为用户提供基于互联网的应用开发环境,支持应用从创建到运行整个周期所需的各种软硬件资源和工具。将软件研发平台作为服务提供给用户,如数据库,文件系统和应用运行环境。
IaaS和PaaS
IaaS只提供硬件层面服务,保同一基础设施上的大量用户有自己的硬件资源,实现硬件可扩展和可隔离
PaaS在同一基础设施上同时为大量用户提供其专属应用运行平台,使用户间互不影响,并保持高性能和安全性。
PaaS消除了用户自行搭建软件开发平台和运行环境所需成本,但软件实现的功能和性能会受到平台环境的约束。
软件即服务SaaS
三层架构的顶层,将软件服务通过互联网提供给用户,用户只需通过浏览器或其他设备接入使用,免费或者按需使用的方式向用户收费。例如:钉钉、飞书、腾讯会议等
特性:
通过互联网为用户提供服务
基于一套标准软件系统为成千上万的不同租户提供服务
签订服务合约、服务使用计量、在线服务质量保证
最大程度的提高系统并发、可扩展性
通过不同配置满足不同用户需求,无需为每个用户定制
帮助用户面对不断地需求变化
与传统架构的区别*
传统架构
搭建复杂
专机专用、平均资源利用率低,能耗效率低
业务上线测试周期长,效率低
云计算架构
通过计算虚拟化和网络设备和网络虚拟化进行融合,整个成大的资源池
通过云平台层的自动化管理能力,实现资源快速部署、弹性高可用
云架构优势*
公有云场景下,无需关注底层基础设施的建设与维护,减少企业IT投入成本
实现资源统一管理调度,计算能力强大,具备弹性伸缩能力,高可能及高可靠性
传统IT基础设施难以满足快速增长的需求,云计算平台下可实现业务快速部署,缩短业务上线周期
全面的安全防护能力,安全质量属性的需求实力上贯穿于云计算架构的自底向上的各个层面
阿里云计算服务*
飞天操作系统
服务于全球的超大规模通用计算操作系统,将遍布全球的百万级阿里云服务器连成一台,提供足够强大、通用、普惠的计算能力。飞天的核心服务包括
神龙计算
盘古存储
数据库
洛神网络
神龙计算
阿里云自研的软硬件一体化计算架构,深度融合物理机与虚拟机特性,兼顾虚拟机的弹性资源、分钟级交付、全自动运维和物理机的性能优势、完整特性和硬件级隔离。2016年启动的新一代IaaS计算平台项目,2017年首次公布基于神龙计算架构服务器,2019年发布第三代神龙架构,全面支持ECS虚拟机、云原生容器。最新的第四代神龙架构已经实现设备虚拟化、网络存储转发和随路加解密的硬件全加速,百万级节点、99.975% SLA,0损耗等特性。
资源管控系统
资源调度系统
异常调度系统
神龙
CIPU
洛神网络
从物理网络到用户感知到的网络之间存在一个虚拟网络层,这台虚拟网络层就叫洛神。洛神是众多云产品的网络基础设施,支撑众多电商、支付、物流、双十一、世界杯、春运等业务。
特点
单地域网络规模达到百万VPC
1Tbps分钟级交付
99.995%负载均衡可用性
盘古存储
自研分布式存储系统,阿里云底层的统一存储架构。具备弹性伸缩、自动负载均衡,大幅提高存储系统的可靠性和安全性,支持块存储、对象存储、表格存储、文件存储、离线大数据处理等多种存储模式
客户端:提供API
元数据服务:管理数据节点,提供文件目录树
数据节点:管理存储硬件,实现数据持久化存储
管控系统:对用户提供系统运维管控能力