虚拟云计算虚拟化技术进一步解读

云计算虚拟化技术时间:2021-02-27 阅读:()

云计算虚拟化技术进一步解读

胡经国

本文作者的话

木文是根据有关文献和资料编写的《漫话云计算》系列文稿之一。现作为云计算学习笔录奉献给云计算业外读者作为进一步学习和研究的参考。希望能够得到大家的指教和喜欢

下面是正文

随着近年多核系统、集群、网格甚至云计算的广泛部署虚拟化技术在商业应用上的优势日益体现。不仅降低了IT成木而且还增强了系统安全性和可靠性。虚拟化的概念也逐渐深入到人们日常的工作与生活中。木文针对x86平台首先给出虚拟化技术的基本概念和分类然后阐述纯软件虚拟化的实现原理和面临的挑战最后详细介绍Intel-VT硬件辅助虚拟化技术。

一、虚拟化技术简介

1 、什么是虚拟化

虚拟化(Virtualization)技术最早出现在20世纪60年代的IBM大型机系统。在20实际70年代的System 370系列中逐渐流行起来。这些机器通过一种叫做虚拟机监控器(Virtual Machine Monitor,VMM)的程序在物理硬件之上生成许多可以运行独立操作系统软件的虚拟机(Virtual Machine)实例。随着近年多核系统、集群、网格其至云计算的广泛部署虚拟化技术在商业应用上的优势口益体现。不仅降低了IT成本而且还增强了系统安全性和可靠性。虚拟化的概念也逐渐深入到人们口常的工作与生活中。

虚拟化是一个广义的术语对于不同的人来说可能意味着不同的东西。这要取决他们所处的环境。

在计算机科学领域中虚拟化代表着对计算资源的抽象而不仅仅局限于虚拟机的概念。例如对物理内存的抽象产生了虚拟内存技术使得应用程序认为其自身拥有连续可用的地址空间(Address Space) 而实际上应用程序的代码和数据可能是被分隔成多个碎片页或段) 甚至被交换到磁盘、闪存等外部存储器上即使物理内存不足应用程序也能顺利执行。

2 、虚拟化技术的分类

虚拟化技术主要分为以下几个大类

⑴、平台虚拟化(Platform Virtualization)

针对计算机和操作系统的虚拟化。

⑵、资源虚拟化(Resource Virtualization)

针对特定的系统资源的虚拟化比如内存、存储、网络资源等。

(3) 、应用程序虚拟化(Application Virtualization)

包括仿真、模拟、解释技术等。

3 、平台虚拟化技术及其分类

我们通常所说的虚拟化主要是指平台虚拟化技术通过使用控制程序(C ontrolProgram),也称为虚拟机监控器(Virtual Machine Monitor,VMM)或虚拟机监控程序(Hypervisor),隐藏特定计算平台的实际物理特性为用户提供抽象的、统一的、模拟的计算环境(称为虚拟机) 。虚拟机中运行的操作系统被称为客户机操作系统(Guest OS) 运行虚拟机监控器(VMM)的操作系统被称为主机操作系统(Host OS)o当然某些虚拟机监控器可以脱离操作系统直接运行在硬件之上(如VMWARE的ESX产品) 。运行虚拟机的真实系统我们称Z为主机系统。

平台虚拟化技术又可以细分为如下几个子类

⑴、全虚拟化(Full Virtualization)

全虚拟化是指虚拟机模拟了完整的底层硬件包括处理器、物理内存、时钟、外设等使得为原始硬件设计的操作系统或其它系统软件完全不做任何修改就可以在虚拟机中运行。操作系统与真实硕件之间的交互可以看成是通过一个预先规定的硬件接口进行的。

全虚拟化VMM,以完整模拟硬件的方式提供全部接口(同时还必须模拟特权指令的执行过程) 。举例而言在x86体系结构中对于操作系统切换进程页表的操作真实硬件通过提供一个特权C R3寄存器来实现该接口操作系统只需执行“mo vp gt ab l e,%%c r3,,^E编指令即可。

全虚拟化VMM,必须完整地模拟该接口执行的全过程。如果硬件不提供虚拟化的特殊支持那么这个模拟过程将会十分复杂。一般而言VMM必须运行在最高优先级来完全控制主机系统而Gue st O S(客户机操作系统)需要降级运行从而不能执行特权操作。当Guest OS执行前面的特权汇编指令时 主机系统产生异常(General Protection Exception,一般性保护例外) 执行控制权重新从Guest OS转到VMM手中。VMM事先分配一个变量作为影子CR3寄存器给Guest OS,将pgtable代表的客户机物理地址(Gue st Physical Address)填入影子CR3寄存器然后VMM还需要将pgtable代表的客户机物理地址(Guest Physical Address)翻译成主机物理地址(Host Physical Address)并填入物理CR3寄存器最后返回到Guest OS中。随后VMM还将处理复杂的Guest OS缺页异常(Page Fault) 。比较著名的全虚拟化VMM有Microsoft Virtual PC,VMware Workstation,Sun Virtual Box,Parallels Desktop for Mac和Q EM Uc

⑵、超虚拟化(Para Virtualization)

这是一种修改Gue st O S部分访问特权状态的代码以便直接与VMM交互的技术。在超虚拟化虚拟机中部分硬件接口以软件的形式提供给客户机操作系统。这可以通过Hypercall VMM提供给Guest OS的直接调用与系统调用类似的方式来提供。例如Guest OS把切换页表的代码修改为调用Hypercall来直接完成

修改影子CR3寄存器和翻译地址的工作。由于不需要产生额外的异常和模拟部分便件执行流程超虚拟化可以大幅度提高性能。比较著名的VMM有Denali,Xen。

链接Hypercall

在Xen中Hyp erc al l 超调用是一个比较重要的概念Hyp erc al l 超调用类似于System call 系统调用 Hypercall之于Xen hypervisor Xen虚拟机监控程序 就像System call之于Linux kernel Linux内核 。

在x86平台上Xen中的Hypercall是通过软中端中断号0x82来实现的。

⑶、硬件辅助虚拟化Hardware。Assisted Virtualization

硕件辅助虚拟化是指借助硕件主耍是主机处理器的支持来实现高效的全虚拟化。例如有了Intel・VT技术的支持Guest OS和VMM的执行环境自动地完全隔离开来Guest OS有自己的“全套寄存器" 可以直接运行在最高级别。因此在上面的例子中Guest OS能够执行修改页表的汇编指令。 Intel-VT和AMD-V是目前x86体系结构上可用的两种硬件辅助虚拟化技术。

链接:Intel VT

Intel VT即Intel公司的Virtualization Technology 虚拟化技术VT 。

为解决纯软件虚拟化解决方案在可靠性、安全性和性能上的不足 Intel在它的硕件产品上引入了Intel VT Virtualization Technology,虚拟化技术 。

Intel VT nJ以让一个CPU工作起來像多个CPU在并行运行从而使得在一部电脑内同时运行多个操作系统成为可能。这种VT技术并不是一个新鲜事物。市面上已经有一些软件可以达到虚拟多系统的目的比如VMware workstation>Virtual PC等。使用这种技术就可以以单CPU模拟多CPU并行 可以实现单机同时运行多操作系统。

链接AMD-V

AMD-V AMD Virtualization,AMD虚拟化技术是对x86处理器系统架构的一组硬件扩展和硬件辅助虚拟化技术。它可以简化纯软件的虚拟化解决方案改进VMM虚拟机监视器的设计更充分地利用硬件资源提高服务器和数据中心的虚拟化效率。

F I前AMD提供的所有处理器均具备AMD-V虚拟化功能不论是笔记本电脑还是刀片服务器均可为其提供强大的虚拟化性能、安全性及可靠性。

⑷、部分虚拟化(Partial Virtualization)

部分虚拟化是指VMM只模拟部分底层硬件。因此客户机操作系统不做修改是无法在虚拟机中运行的其它程序可能也需要进行修改。在历史上部分虚拟化是通往全虚拟化道路上的重要里程碑。最早岀现在第一代的分时系统CTSS和IBM

M44/44X实验性的分页系统中。

⑸、操作系统级虚拟化(Operating System Level Virtualization)

在传统操作系统中所有用户的进程本质上是在同一个操作系统的实例中运行。因此内核或应用程序的缺陷可能影响到其它进程。

操作系统级虚拟化是一种在服务器操作系统中使用的轻量级的虚拟化技术。内核通过创建多个虚拟的操作系统实例(内核和库)来隔离不同的进程不同实例屮的进程完全不了解对方的存在。比较著名的有Solaris Container,FreeBSD Jail和OpenVZ等。

这种分类并不是绝对的。一个优秀的虚拟化软件往往融合了多项技术。例如VMware Workstation是一个著名的全虚拟化的VMM。但是它使用了一种被称为动态二进制翻译的技术把对特权状态的访问转换成对影子状态的操作从而避免了低效的Trap-And-Emul ate的处理方式。这与超虚拟化相似只不过超虚拟化是静态地修改程序代码。对于超虚拟化而言如果能利用硬件特性那么虚拟机的管理将会大大简化同时还能保持较高的性能。

本文讨论的虚拟化技术只针对x86平台(含AMD 64),并假定虚拟机中运行的Gue st O S也是为x86平台设计的。

二、纯软件虚拟化技术的原理及面临的挑战

1 、虚拟机监控器应当具备的条件

1974年Popek和Goldberg在《Formal Requirements for Virtualizable ThirdGeneration Architecture s》论文中提出了一组称为虚拟化准则的充分条件满足这些条件的控制程序可以被称为虚拟机监控器(Virtual Machine Monitor,简称VMM)o虚拟机监控器应当具备的条件如下

(1) 、资源控制

控制程序必须能够管理所有的系统资源。

⑵、等价性

在控制程序管理下运行的程序(包括操作系统) 除时序和资源可用性之外的行为应该与没有控制程序时的完全一致且预先编写的特权指令可以自由地执行。

⑶、效率性

绝大多数的客户机指令应该由主机硬件直接执行而无需控制程序的参与。

尽管基于简化的假设但是上述条件仍为评判一个计算机体系结构是否能够有效支持虚拟化提供了一个便利方法也为设计可虚拟化计算机架构给出了指导原则。

2 、纯软件虚拟化技术原理简介

我们知道传统的x86体系结构缺乏必要的硬件支持任何虚拟机监控器都无法直接满足上述条件所以不是一个可虚拟化架构。但是我们可以使用纯软

件实现的方式构造虚拟机监控器。

虚拟机是对真实计算环境的抽象和模拟。VMM需要为每个虚拟机分配一套数据结构来管理它们的状态包括虚拟处理器的全套寄存器物理内存的使用情况虚拟设备的状态等等。

VMM调度虚拟机时将其部分状态恢复到主机系统屮。并非所有的状态都需要恢复例如主机CR3寄存器中存放的是VMM设置的页表物理地址而不是Gue stOS设置的值。

主机处理器直接运行Guest OS的机器指令。由于Guest OS运行在低特权级别当访问主机系统的特权状态如写GDT寄存器时权限不足导致主机处理器产生异常将运行权自动交还给VMM。此外外部中断的到来也会导致VMM的运行。

VMM可能需要先将该虚拟机的当前状态写回到状态数据结构中分析虚拟机被挂起的原因然后代表Gue st O S执行相应的特权操作。最简单的情况如Gue stO S对C R3寄存器的修改只需要更新虚拟机的状态数据结构即可。一般而言大部分情况下VMM需要经过复杂的流程才能完成原木简单的操作。

最后VMM将运行权述给Guest OS,Guest OS从上次被中断的地方继续执行或处理VMM“塞”入的虚拟中断和异常。

这种经典的虚拟机运行方式被称为Trap-And-Emul ate 直译陷阱一和—模仿 虚拟机对于Gue st O S完全透明Gue st O S不需要任何修改。但是VMM的设计会比较复杂系统整体性能受到明显的损害。

3 、纯软件虚拟化技术面临的挑战

在设计纯软件VMM的时候需要解决如下挑战

⑴、确保VMM控制所有的系统资源x86处理器有4个特权级别即Ring 0〜Ring 3只有运行在Ring 0〜2级时处理器才可以访问特权资源或执行特权指令。当运行在Ring 0级时处理器可以访问所有的特权状态。x86平台上的操作系统一般只使用Ring 0和Ring 3这两个级别。操作系统运行在RingO级用户进程运行在Ring 3级。为了满足上面的第一个充分条件——资源控制VMM自己必须运行在Ring 0级同时为了避免Guest OS控制系统资源Guest OS不得不降低自身的运行级别运行在Ring 1或Ring 3级

Ring 2不使用 。

⑵、特权级压缩(Ring Compression)

VMM使用分页或段限制的方式保护物理内存的访问。但是在64位模式下段限制不起作用而分页又不区分Ring 0, 1,2 o为了统一和简化VMM的设计Gue stOS只能和Guest进程一样运行在Ring 3级。VMM必须监视Guest OS对GDT、 IDT等特权资源的设置防止Gue st O S运行在Ring 0级 同时乂要保护降级后的Gue stO S不受Gue st进程的主动攻击或无意破坏。

⑶、特权级别名(Ring Alias)

特权级别名是指Gue st O S在虚拟机屮运行的级别并不是它所期望的。VMM必须保证Gue st O S不能获知正在虚拟机屮运行这一事实否则可能打破等价性条件。例如x86处理器的特权级别存放在CS代码段寄存器内 Guest OS可以使用非特权push指令将C S寄存器压栈然后pop出来检查该值。又如Gue st O S在低特权级别时读取特权寄存器GDT、LDT、 IDT和TR,并不发生异常。从而可能发现这些值与自己期望的不一样。为了解决这个挑战VMM可以使用动态二进制翻译的技术例如预先把“push%%c s”指令替换在栈上存放-个影子C S寄存器值又如可以把读取GDT寄存器的操作"sgdtde st”改为"movl fake_gdt,de st” 。

(4) 、地址空间压缩(Address Space Compression)

地址空间压缩是指VMM必须在Guest OS的地址空间中保留一部分供其使用。例如中断描述表寄存器(IDT Register)中存放的是中断描述表的线性地址。如果Gue st O S运行过程中来了外部中断或触发处理器异常必须保证运行权马上转移到VMM中因此VMM需要将Gue st O S的一部分线性地址空间映射成自己的中断描述表的主机物理地址。VMM可以完全运行在Guest OS的地址空间屮也可以拥有独立的地址空间若是后者的话VMM只占用Guest OS很少的地址空间用于存放中断描述表和全局描述符表(GDT)等重要的特权状态。无论如何哪种情况VMM应该防止Gue st O S直接读取和修改这部分地址空间。

(5) 、处理Guest OS的缺页异常

内存是一种非常重要的系统资源VMM必须全权管理。Gue st O S理解的物理地址只是客户机物理地址(Guest Physical Address),并不是最终的主机物理地址(Host Physical Address) 。当Guest OS发生缺页异常时VMM需要知道缺页异常的原因是Gue st进程试图访问没有权限的地址或是客户机线性地址(Gue st LinearAddress)尚未翻译成Guest Physical Address,还是客户机物理地址尚未翻译成主机物理地址。

一种可行的解决方法是VMM为Guest OS的每个进程的页表构造一个影子页表维护Guest Linear Address到Host Physical Address的映射主机CR3寄存器存放这个影子页表的物理内存地址。VMM同时维护一个Gue st O S全局的Gue stPhysical Address到Host Physical Address的映射表。

发生缺页异常的地址总是Guest Linear Addresso VMM先去Guest OS中的页表检查原因。如果页表项已经建立即对应的Guest Physical Address存在说明尚未建立到Host Physical Address的映射那么VMM分配一页物理内存将影子页表和映射表更新否则VMM返回到Gue st O S,由Gue st O S自己处理该异常。

(6) 、处理Guest OS中的系统调用

系统调用是操作系统提供给用户的服务例程使用非常频繁。最新的操作系统一般使用SYSENTER/SYSEXIT指令对來实现快速系统调用。

SYSENTER指令通过

IA32_SYSENTER_CS,

IA32_SYSENTER_EIP,

IA32 SYSENTER ESP

_ _

这3个MSR(Model Specific Register)寄存器(MSR是CPU的一组64位寄存器) 直接转到Ring 0级而SYSEXIT指令不在Ring 0级执行的话将触发异常。因此如果VMM只能采取Trap-And-Emul ate的方式处理这2条指令的话整体性能将会受到极大损害。

(7) 、转发虚拟的中断和异常

所有的外部中断和主机处理器的异常直接由VMM接管。VMM构造必需的虚拟屮断和异常然后转发给Guest OSo VMM需要模拟硬件和操作系统对中断和异常的完整处理流程。例如VMM先要在Gue st O S当前的内核栈上压入一些信息然后找到Gue st O S相应处理例程的地址并跳转过去。VMM必须对不同的Gue st O S的内部工作流程比较清楚这增加了VMM的实现难度。同时Gue st O S可能频繁地屏蔽中断和启用中断。这两个操作访问特权寄存器EFLAGS,必须由VMM模拟完成性能因此会受到损害。Guest OS重新启用中断时VMM需要及时地获知这一情况并将积累的虚拟中断转发。

(8) 、Guest OS频繁访问特权资源

Gue st O S对特权资源的每次访问都会触发处理器异常然后由VMM模拟执行。如果访问过于频繁则系统整体性能将会受到极大损害。比如对中断的屏蔽和启用CLI (Clear Interrupts)指令在Pentium 4处理器上需要花费60个时钟周期(cycle) 。乂如处理器本地高级可编程中断处理器(Local APIC)上有一个操作系统可修改的任务优先级寄存器(Task-Priority Register) , IO-AP 1 C将外部中断转发到TPR值最低的处理器上(期望该处理器正在执行低优先级的线程) 从而优化中断的处理。TPR是一个特权寄存器某些操作系统会频繁设置(Linux Kernel只在初始化阶段为每个处理器的TP R设置相同的值) 。

软件VMM所遇到的以上挑战从本质上來说是因为Gue st O S无法运行在它所期望的最高特权级。传统的Trap-And-Emul at e处理方式虽然以透明的方式基本解决上述挑战。但是带来极大的设计复杂性和性能下降。当前比较先进的虚拟化软件结合使用二进制翻译和超虚拟化的技术核心思想是动态或静态地改变Gue st O S对特权状态访问的操作尽量减少产生不必要的硬件异常同时简化VMM的设计。

三、 I n t e l -VT硬件辅助虚拟化技术详解

2005年冬天英特尔带来了业内首个面向台式机的硬件辅助虚拟化技术Intel-VT及相关的处理器产品从而拉开了IA架构虚拟化技术应用的新时代大幕。支持虚拟化技术的处理器带有特别优化过的指令集来自动控制虚拟化过程。从而极大地简化了VMM的设计VMM的性能也能得到很大提高。其中IA・32处理器的虚拟化技术称为Intel-VT-Xo

安腾处理器的虚拟化技术称为VT・i 。AMD公司也推出了自己的虚拟化解决方案称为AMD-Vo

尽管Intel-VT和AMD-V并不完全相同但是基本思想和数据结构却是相似的。本文只讨论Intel-VT-x技术。

链接 IA

IA Intel Architecture ,即Intel架构。一般也代指以X86为基础的处理器架构或系统架构。

IA Intel Architecture ,特指Intel的CPU架构。有IA・32和IA-64,代表32位和64位。X86是Intel发明的基于CISC结构的处理器架构。

1 、新增的两种操作模式

VT-x为IA-32处理器增加了两种操作模式VMX Root Operation VMX根操作和VMX Non-Root Operation VMX非根操作 。VMM白己运行在VMX rootoperation模式VMX non-root operation模式则由Guest OS使用。两种操作模式都支持Ring 0〜Ring 3这4个特权级。因此VMM和Gue st O S都可以自由选择它们所期望的运行级别。

这两种操作模式可以互相转换。

运行在VMX root operation模式下的VMM,通过显式调用VMLAUNCH或VMRESUME指令切换到VMX non-root operation模式硬件自动加载Guest OS的上下文。于是Guest OS获得运行。这种转换称为VM entry 虚拟机入口 。

Guest OS运行过程中遇到需要VMM处理的事件例如外部中断或缺页异常,或者主动调用VMCALL指令调用VMM的服务的时候与系统调用类似 硬件自动挂起Guest OS,切换到VMX root operation模式恢复VMM的运行。这种转换称为VMexit 虚拟机退岀 。

VMX root operation模式下软件的彳亍为与在没有VT・x技术的处理器上的行为基本一致而VMX non-root operation模式则有很大不同最主要的区别是此时运行某些指令或遇到某些事件时发生VM exito

链接VMX

VMX为虚拟机配置文件或虚拟系统配置文件。

2 、虚拟机控制块

MM(Main Memory,主存储器)和Gue st O S共享底层的处理器资源。因此硬件需要一个物理内存区域来自动保存或恢复彼此执行的上下文这个区域称为虚拟机控制块(VMCS),包括客户机状态区(Guest State Area),主机状态区(Host State Area)和执行控制区。

在VM entry吋硬件自动从客户机状态区加载Guest OS的上下文。并不需要保存VMM的上下文原因与屮断处理程序类似。因为VMM如果开始运行就不会受到Guest OS的干扰。只有VMM将工作彻底处理完毕才可能自行切换到Gue st O So而VMM的下次运行必然是处理一个新的事件。因此每次VMM entry时VMM都从一个通用事件处理函数开始执行。

在VM exit时硬件自动将Guest OS的上下文保存在客户机状态区从主机状态区中加载VMM的通用事件处理函数的地址VMM开始执行。而执行控制区存放的则是可以操控VM entry和exit的标志位例如标记哪些事件可以导致VMexit,VM entry时准备自动给Guest OS “塞”入哪种中断等等。

客户机状态区和主机状态区都应该包含部分物理寄存器的信息。例如控制寄存器CRO,CR3,CR4 E SP和EIP(如果处理器支持64位扩展则为RSP,RIP) CS,SS,DS,ES,FS,GS等段寄存器及其描述项TR,GDTR, IDTR寄存器IA32_SYSENTER_C S, IA32_SYSENTER_ESP, IA32_SYSENTER_EIP和

IA32_PERF_GLOBAL_CTRL等MSR寄存器。客户机寂态区并不筍括通用寄存器禹内容VMM旨行决定是否在VM exit的吋候保存它们从而提高了系统性能。客户机状态区还包括非物理寄存器的内容比如一个32位的Active State值表明Guest O S执行时处理器所处的活跃状态。如果正常执行指令就是处于Active(活跃)状态如果触发了三重故障(Triple Fault)或其它严重错误,就处于Shutdown(关闭)状态等等。

前文已经提过执行控制区用于存放可以操控VM entry和VM exit的标志位包括

⑴、External-interrupt exiting(外部中断退出)

用于设置是否外部中断可以触发VM exit,而不论Guest OS是否屏蔽了中断。

(2) 、 Interrupt-window exiting(Interrupt-window出)

如果设置当Guest OS解除中断屏蔽时触发VM exito

(3) 、Use TPR shadow(用TPR影子)

通过CR8访问Task Priority Register (TPR)的时候使用VMCS中的影子TPR,可以避免触发VM exito同时执行控制区还有一个TPR阈值的设置

只有当Gue st O S设置的TR值小于该阈值时才触发VM exit 。

4 、CR masks and shadows CR掩码和影子

每个控制寄存器的每一位都有对应的掩码控制Gue st O S是否可以肓接写相应的位或是触发VM exito同吋VMC S中包括影子控制寄存器Guest OS读取控制寄存器时硬件将影子控制寄存器的值返回给Guest OSo

VM C S 虚拟机控制块还包括一组位图以提供更好的适应性

⑴、Exception bitmap 除位图