OpenStack虛擬機建立過程當中鏡像格式的的變化過程

Glance用來做爲獨立的大規模鏡像查找服務，當它與Nova和Swift配合使用時，就爲OpenStack提供了虛擬機鏡像的查找服務，像全部的OpenStack項目同樣，遵循如下設計思想：

• 基於組件的架構 - 便於快速增長新特性
• 高可用性 - 支持大負荷
• 容錯性 - 獨立的進程地址空間，避免串行錯誤
• 開放標準 - 對社區驅動的API提供參考實現

1. Glancle架構

Glance主要由三個部分構成：glance-api、glance-registry以及image store；

• Glance-api接收REST API的請求，相似nova-api；

Glance-api在功能上與nova-api十分相似，都是接收REST API請求，而後經過其餘模塊（glance-registry及image store）來完成諸如鏡像的查找、獲取、上傳、刪除等操做，i默認監聽端口9292；

• glance-registry用於與MySQL數據庫交互，用於存儲或獲取鏡像的元數據（metadata）；

Glance-registry用於提供鏡像元數據相關的REST接口，經過glance-registry，能夠向數據庫中寫入或獲取鏡像的各類數據，glance-registry監聽端口9191。Glance的數據庫中有兩張表，一張是image表，另外一張是image property表。Image表保存了鏡像格式、大小等信息；image property表則主要保存鏡像的定製化信息。

• image store是一個存儲的接口層，經過這個接口，glance能夠獲取鏡像，image store支持的存儲有Amazon的S三、OpenStack自己的Swift，還有諸如ceph，sheepdog，GlusterFS等分佈式存儲。

Image store是鏡像保存與獲取的接口，它僅僅是一個接口層，具體的實現須要外部的存儲支持，目前，支持的接口有Amazon S三、GlusterFS、Swift，sheepdog，ceph等。

Glance體系結構以下圖所示，經過glance，OpenStack的三個模塊計算組件（nova）、鏡像管理組件（glance）、存儲組件（swift，ceph，sheepdog等）被鏈接成一個總體，Glance爲Nova提供鏡像的查找等操做，而存儲組件又爲Glance提供了實際的存儲服務。而Swift，ceph，gluster，sheepdog等又是Glance存儲接口的一些具體實現，Glance的存儲接口還能支持S3等第三方的商業組件。

2. Openstack建立虛擬機的過程當中鏡像文件格式的變化過程

   這裏經過OpenStack的horizon組件來建立一個m1.small的virtual machine，來詳細分析下鏡像格式的變化以及glance底層具體執行的哪些操做。

（1）首先看一下Glance管理的鏡像，若是採用local storage，glance將鏡像文件默認存儲到/var/lib/glance/image目錄下，這裏咱們選擇c036d689-0336-4fcd-a8e0-4aed4dd5e420這個鏡像來做爲建立虛擬機的模板，此鏡像是經過以下命令添加的,所以在horizon中顯示的名稱爲：Precise x86_64。

glance add name="Precise x86_64" is_public=true
container_format=ovf disk_format=qcow2
< ubuntu-12.04-server-cloudimg-amd64-disk1.img

 
   
   ubuntu@compute-63-02:/var/lib/glance/images$ ll -alh
total 2.5G
drwxr-xr-x 2 glance glance 4.0K Jan 30 01:30 ./
drwxr-xr-x 6 glance glance 4.0K Dec 27 21:11 ../
-rw-r----- 1 glance glance 768M Dec 27 04:31 5b298155-8bcf-442f-bc83-bc52f3fe5be9
-rw-r----- 1 glance glance 712M Jan 30 01:31 8760d55b-0d91-4987-8980-d6659c7856ab
-rw-r----- 1 glance glance 223M Dec 25 03:58 c036d689-0336-4fcd-a8e0-4aed4dd5e420
-rw-r----- 1 glance glance 768M Dec 27 04:44 d771b2ce-9310-4757-8ec5-d80f8d1e1712 
    經過qemu-img info命令，先看一下鏡像文件的大小和格式以下： 
   
   ubuntu@compute-63-02:/var/lib/glance/images$ sudo qemu-img info c036d689-0336-4fcd-a8e0-4aed4dd5e420
image: c036d689-0336-4fcd-a8e0-4aed4dd5e420
file format: qcow2                                       //qcow2格式的鏡像
virtual size: 2.0G (2147483648 bytes)                    //鏡像文件大小的上限爲2G，實際使用了223M
disk size: 223M
cluster_size: 65536 
    （2）經過horizon建立m1.small（具體配置爲：1vcpu，2G memory，10G root disk，20G extra volume）的virtual machine
      新建立的虛擬機存放在/var/lib/nova/instances目錄下，該目錄的大致結構以下：
 
   
   ubuntu@compute-63-12:/var/lib/nova/instances$ ll
total 32
drwxr-xr-x 8 nova nova 4096 Feb 28 21:39 ./
drwxr-xr-x 10 nova nova 4096 Dec 25 01:07 ../
drwxrwxr-x 2 nova nova 4096 Feb 28 21:39 _base/                    //至關於鏡像文件的cache目錄，在此host上建立的全部的vm，都會先cacha到這裏
drwxrwxr-x 2 nova nova 4096 Jan 8 05:56 instance-00000022/         //instance-xxxxx新建立的虛擬機
drwxrwxr-x 2 nova nova 4096 Feb 28 03:40 instance-00000034/
drwxrwxr-x 2 nova nova 4096 Feb 28 04:02 instance-00000037/
drwxrwxr-x 2 nova nova 4096 Feb 28 21:39 instance-0000003a/
drwxrwxr-x 2 nova nova 4096 Jan 30 01:30 snapshots/                 //此host上虛擬機對應的快照文件
   經過查看nova-compute.log能夠看到vm建立過程當中，鏡像文件格式的變化過程，下面總結了下，具體參見下圖。      從glance中得知，有個virtual size =2G的qcow2格式的鏡像文件Precise x86_64，它在glance中的ID=c036d689-0336-4fcd-a8e0-4aed4dd5e420。
  當Nova Compute接收到vm建立的請求時，經過如下步驟完成一個VM的建立過程：

（1）步：
    從vm的描述文件中得到所使用的image文件的ID，而後向Glance發起索取image文件的HTTP請求，結果是image文件從Glance的存儲節點下載到發起請求的host機器上，即：/var/lib/nova/instances/_base目錄下： 
   
   ubuntu@compute-63-11:/var/lib/nova/instances/_base$ ll -alh
total 4.0G
drwxrwxr-x 2 nova nova 4.0K Feb 28 21:39 ./
drwxr-xr-x 8 nova nova 4.0K Feb 28 21:39 ../
-rw-r--r-- 1 nova kvm 2.0G Mar 1 02:06 d265f9d66b8be65448e6c9147a83d65a300e1852
-rw-r--r-- 1 nova kvm 10G Mar 1 02:06 d265f9d66b8be65448e6c9147a83d65a300e1852_10
-rw-rw-r-- 1 nova nova 223M Feb 28 03:17 d265f9d66b8be65448e6c9147a83d65a300e1852.part
-rw-r--r-- 1 nova nova 20G Feb 28 04:01 ephemeral_0_20_None
-rw-r--r-- 1 libvirt-qemu kvm 20G Feb 28 04:01 ephemeral_0_20_None_20
-rw-r--r-- 1 nova nova 40G Feb 28 21:39 ephemeral_0_40_None
-rw-r--r-- 1 libvirt-qemu kvm 40G Feb 28 21:39 ephemeral_0_40_None_40 
    即從：c036d689-0336-4fcd-a8e0-4aed4dd5e420 ---> d265f9d66b8be65448e6c9147a83d65a300e1852.part
經過qemu-img info，能夠發現d265f9d66b8be65448e6c9147a83d65a300e1852.part仍爲qcow2格式的鏡像，且大小與glance上的大小一致。
 
   
   ubuntu@compute-63-11:/var/lib/nova/instances/_base$ sudo qemu-img info d265f9d66b8be65448e6c9147a83d65a300e1852.part
image: d265f9d66b8be65448e6c9147a83d65a300e1852.part
file format: qcow2
virtual size: 2.0G (2147483648 bytes)
disk size: 223M
cluster_size: 65536 
    （2）步：
      鏡像下載成功後，openstack先去判斷image文件的類型是否爲qcow2，若是是，則現將其轉化爲raw格式，不然，直接進入（3）
      這裏經過qemu-img convert命令，將qcow2格式轉化爲raw格式，轉化完的鏡像爲：d265f9d66b8be65448e6c9147a83d65a300e1852，經過qemu-imag info查看其information。 
   
   ubuntu@compute-63-11:/var/lib/nova/instances/_base$ sudo qemu-img info d265f9d66b8be65448e6c9147a83d65a300e1852
image: d265f9d66b8be65448e6c9147a83d65a300e1852
file format: raw
virtual size: 2.0G (2147483648 bytes)
disk size: 659M 
    （3）（4）兩步：
     因爲所請求的vm的類型爲m1.small，其root disk的大小爲10G，因此須要resize image fille to 10G。
    這裏比較奇怪的是，在resize以前，openstack會將d265f9d66b8be65448e6c9147a83d65a300e1852拷貝一份d265f9d66b8be65448e6c9147a83d65a300e1852_10，而後對d265f9d66b8be65448e6c9147a83d65a300e1852_10進行resize操做，將其變成10G的raw，這可能與vm的備份有關，暫時尚未理解爲何這麼作。 
   
   cp /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852 /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852_10 （raw-->raw 2G-->2G）
qemu-img resize /var/lib/nova/instances/_base/d265f9d66b8be65448e6c9147a83d65a300e1852_10 10737418240 （raw--> raw 2G -->10G） 
    (5) 步：
    以（3）中建立的d265f9d66b8be65448e6c9147a83d65a300e1852_10做爲base建立qcow2格式的overlay，能夠理解爲以d265f9d66b8be65448e6c9147a83d65a300e1852_10爲base，建立了一個快照disk,具體看對應虛擬機目錄下的文件： 
   
   ubuntu@compute-63-12:/var/lib/nova/instances/instance-0000003a$ ll -alh
total 417M
drwxrwxr-x 2 nova nova 4.0K Feb 28 21:39 ./
drwxr-xr-x 8 nova nova 4.0K Feb 28 21:39 ../
-rw-rw---- 1 libvirt-qemu kvm 23K Feb 28 21:40 console.log
-rw-r--r-- 1 libvirt-qemu kvm 417M Mar 1 02:36 disk
-rw-r--r-- 1 libvirt-qemu kvm 576K Mar 1 01:35 disk.local
-rw-rw-r-- 1 nova nova 1.6K Feb 28 21:38 libvirt.xml 
    如今來總結下鏡像文件的變化過程：
 c036d689-0336-4fcd-a8e0-4aed4dd5e420    (223M -- qcow2)
     -->d265f9d66b8be65448e6c9147a83d65a300e1852.part   (223M -- qcow2)
           --> d265f9d66b8be65448e6c9147a83d65a300e1852      (2G -- raw)
                  -->d265f9d66b8be65448e6c9147a83d65a300e1852_10   (10G -- raw)
                          --> disk    (417M -- qcow2)

3. cache機制

   若是以後建立的vm的類型也是m1.small，而且是同一個image,將不會再去glance下載image文件，而是直接利用本地_base下的d265f9d66b8be65448e6c9147a83d65a300e1852_10來直接建立vm的disk文件，大大減小的vm的部署時間。