基于OpenStack的高校大數據實踐云平臺構建和實踐探究

宋志偉

關鍵詞：云平臺；OpenStack；大數據；大數據實踐云平臺；大數據實踐平臺

各高校紛紛推出了大數據相關的課程，來滿足大數據時代對人才的需求。要在大數據課程中取得良好的學習效果，動手實踐是學習中必不可少的環節。大數據實驗所需集群環境比較復雜，不同的實驗所需要的環境也不盡相同，環境的搭建既費時費力又容易出錯。云計算為高校在實踐平臺建設中產生的一系列問題提供了很好的解決方案。

1 高校教學現狀分析

目前常見的實踐平臺以單機實驗為主，是在虛擬機上完成大數據實驗，較難完成多機集群環境的部署。另外，課堂時間較短，除了老師講解操作所花的時間，留給學生動手實踐的時間比較少，造成了有的學生在課上時間不能完成相應的練習。當學生進行下一次學習時，電腦設備會對系統進行重置，之前的操作會被清空，如果想要繼續完成之前的練習，就需要從頭再來，這樣會對學習效果造成影響。另外，電腦設備需要定期進行維護和管理，造成課后學生不能直接使用，這對學生通過課后自主練習來提高學習效果有很大的影響。

2 云計算平臺

目前，云計算的部署方式可分為：公有云、私有云、混合云。公有云的優點是簡單易用，運維管理由云服務商提供，但長期使用成本較高，教學環境的定制并不方便。私有云是由單位自行搭建的云平臺，所有的資源和服務只供自己使用，其優勢體現在資源管理、動態調整和個性化定制的課程環境上，但初期需要投入較高的成本。混合云是企業出于安全考慮，在私有云中存放數據，在公有云中獲得計算資源，同時使用私有云和公有云。在云平臺的部署方案中，OpenStack的市場占有率比較高，技術也比較成熟，已成為開源云平臺主流的一種解決方案[1]。因此，本文主要是基于OpenStack的實踐云平臺的搭建及應用，其版本是OpenStack Train（T版）。

3 OpenStack 簡介

OpenStack是一個云操作系統，第一版被命名為Austin，每隔數月會發布一次新版本[2]。以A 至Z 為序，以26個英文字母作為開頭字母來命名后續版本的名稱。Austin版只包括兩個項目Swift和Nova，為云計算提供對象存儲和計算服務。目前，OpenStack包含6 個核心組件（Keystone、Glance、Nova、Neutron、Cinder、Swift）和14個可選組件，共計30個組件，每個組件中包含多個服務。后續版本中組件的數量還會發生變化。

本文中的實踐云平臺搭建使用了OpenStack中的7個組件，各組件的功能如下：

Keystone 是OpenStack 各個組件之間的通信核心，對所有的組件提供身份認證和授權，追蹤用戶及其權限，提供一個可用服務和API列表[3]。

Glance鏡像服務，提供虛擬機鏡像的發現、注冊和檢索服務。

Nova是真正的執行部件，是一個提供計算資源的模塊，管理虛擬機的整個生命周期。按照Dashboard 發來的指令并完成具體的操作。

Neutron 網絡服務，提供應用編程接口（API）為OpenStack云更靈活地劃分物理網絡，在多租戶環境下，提供給每個租戶獨立的網絡環境。

Cinder管理塊設備，可以看作是幫助虛擬機獲得所需塊設備的管家。

Swift是一個類似于HBase的專門為虛擬機提供非結構化數據存儲的NoSQL數據庫。它采用分散式存儲的方式，為了保證數據的安全性，將相同的數據存儲在多臺電腦上。

Horizon控制臺服務，提供了一個網頁界面，該服務通常稱為Dashboard。用戶登錄后可以完成大多數操作：管理實例、動態遷移、分配IP地址等。

4 基于OpenStack 的大數據實踐云平臺設計

所搭建的實踐云平臺總共需要5臺服務器。每臺服務器的配置：2個18核36線程e5-2696 v3 CPU、8個32GB內存、4TB的硬盤。每臺服務器安裝CentOS-7-x86_64-DVD-2009.iso操作系統。這5臺服務器分別作為1臺控制節點服務器、4臺計算節點和存儲節點服務器。每臺服務器配置兩張網卡，網卡1網段為192.168.169.0/24，該網絡為所有的服務器提供軟件包安裝、網絡訪問、安全更新、網絡時間同步NTP、域名解析DNS [4]，用于管理網絡。網卡2 網段為192.168.200.0/24，網關為192.168.200.1，該網絡為OpenStack中的所有虛擬機實例提供網絡訪問[3]。具體IP規劃和整體架構如圖1所示。

控制臺計算機需1臺，配置2張網卡，安裝Win?dows 10 操作系統，網卡1 的IP 地址配置為192.168.169.11，網卡2 的IP 地址配置為192.168.200.11。教師可以通過控制臺登錄各服務器，進行云平臺的搭建和配置。

交換機2960 各48 口共需2 臺，分別為Switch1、Switch2。路由器需要1臺。

40臺學生計算機接于Switch1上，分配固定IP地址192.168.169.101-140。

搭建好OpenStack云平臺以后，學生上課時，可以通過學生計算機訪問http：//192.168.169.10/dashboard 登錄OpenStack平臺。課后，學生也可以在學校任何地方通過校園網絡訪問http：//192.168.200.10/dash?board 登錄OpenStack 平臺。學生在OpenStack 云平臺上創建出自己的實驗云主機，部署出大數據實踐平臺環境。云主機IP 地址分配池范圍設置為192.168.200.30-254，云主機可以自動獲取IP地址。

5 基于OpenStack 的大數據實踐云平臺搭建

5.1 OpenStack 基礎環境配置

首先，部署5臺服務器，分別命名為controller、com?pute1、compute2、compute3、compute4。對5臺服務器分別進行基礎環境的安裝與配置，包含對所有節點進行網卡配置、selinux和防火墻配置、時間服務器配置、安裝OpenStack軟件倉庫。在controller節點安裝配置數據庫服務，消息隊列服務rabbitMQ，緩存服務memcache。

5.2 在controller 節點安裝身份認證服務Keystone

首先，登錄MySQL數據庫創建keystone數據庫，對keystone數據庫進行授權[4]。接著，安裝Keystone服務；編輯/etc/keystone/keystone.conf服務文件，配置數據庫的連接，添加令牌提供者；初始化keystone數據庫；初始化Fernet密鑰庫，引導Keystone服務；對keystone 應用Bootstrap框架執行初始化操作，引導身份認證服務。然后，配置Apache HTTP服務器，包含：編輯/etc/httpd/conf/httpd. conf 文件，配置ServerName 選項，使其指向控制節點[5]；創建一個到/usr/share/key?stone/wsgi-keystone. conf 的鏈接文件；編輯/etc/keystone/adminopenrc文件，設置環境變量，配置管理員賬戶。最后，獲得admin 憑證來獲取只有管理員能執行的命令訪問權限；創建service項目、user角色。

5.3 在controller 節點安裝鏡像服務Glance

首先，登錄MySQL數據庫創建glance 數據庫， 對glance 數據庫授權。接著，創建glance用戶；給service添加glance用戶并授權admin角色。然后，創建glance服務實體和創建映像服務API終結點。最后，在控制節點上安裝Glance 服務；配置/etc/glance/glance-api.conf文件，配置數據庫的連接、身份認證服務、鏡像文件位置；初始化glance數據庫。

5.4 在controller 節點安裝放置服務Placement

首先，登錄MySQL數據庫創建placement數據庫， 對placement數據庫進行授權。接著，創建placement 用戶；給service 添加placement 用戶并授權admin 角色；創建placement服務實體；創建Placement API服務端點。然后，安裝Placement服務；編輯/etc/placement/placement.conf文件，配置數據庫的連接、認證服務；初始化placement 數據庫。最后，解決bug，修改place?ment 的apache 配置文件/etc/httpd/conf. d/00-placement-api.conf。

5.5 在controller節點、compute節點安裝計算服務Nova

在控制節點安裝計算服務Nova。首先，登錄MySQL數據庫創建nova_api、 nova、nova_cell0數據庫; 并對數據庫進行授權。接著，創建nova用戶；給ser?vice添加nova用戶并授權Admin角色；創建nova服務實體以及Nova API服務端點。然后，在控制節點安裝Nova服務；編輯/etc/nova/nova.conf文件，啟用計算和元數據API，配置Rabbit消息隊列訪問，使能Networking 服務，防火墻服務來禁用計算服務內置的防火墻服務，配置my_ip 來使用控制節點的管理接口的IP 地址，配置數據庫的連接、認證服務訪問，開啟遠程桌面配置VNC代理使用控制節點的管理接口IP地址，配置鏡像服務API的地址，配置鎖路徑，配置PlacementAPI[6]。最后，初始化nova-api數據庫；注冊cell0數據庫；創建cell1單元格；同步數據庫。

在計算節點安裝計算服務Nova。編輯/etc/nova/nova.conf文件，配置計算節點vnc遠程訪問信息，設置虛擬類型為qemu；若計算節點不支持硬件加速，必須配置libvirt來使用QEMU去代替KVM。

5.6 在controller節點、compute節點安裝網絡服務Neutron

在controller節點安裝Neutron服務。首先，登錄MySQL數據庫創建neutron數據庫；對neutron數據庫授權，創建數據庫用戶neutron，并授予數據庫用戶neu?tron訪問neutron數據庫的權限[5]。接著，創建neutron 用戶；添加admin角色到neutron用戶和service項目；創建Neutron 服務實體；創建Neutron 服務的API端點。然后，安裝和配置網絡服務；配置/etc/neutron/neutron.conf、/etc/neutron/plugins/ml2/ml2_conf. ini、/etc/neutron/plugins/ml2/linuxbridge_agent. ini、/etc/sysctl. conf、/etc/neutron/l3_agent. ini、/etc/neutron/dhcp_agent. ini、/etc/neutron/metadata_agent. ini、/etc/nova/nova. conf 文件[7]。最后，建立ML2 插件的配置文件/etc/neutron/plugins/ml2/ml2_conf.ini的軟連接；初始化neutron數據庫。

在compute節點安裝Neutron服務，配置/etc/neutron/neutron. conf、/etc/neutron/plugins/ml2/linuxbridge_agent.ini、/etc/nova/nova.conf、/etc/sysctl.conf文件。

5.7 在controller 節點安裝Dashboard（Horizon）

首先，在controller節點安裝Dashboard服務。接著，配置文件/etc/httpd/conf.d/openstack-dashboard.conf和/etc/openstack-dashboard/local_settings。然后，重新啟動httpd、memcached服務。最后，使用瀏覽器打開網址：http：//192.168.169.10/dashboard即可看到Web頁面。

5.8 在controller 節點、compute 節點安裝塊存儲服務Cinder 和對象存儲Swift

首先，配置完成基礎環境。接著，編輯/etc/cinder/cinder.conf和/etc/swift/swift.conf文件，配置數據庫的連接，配置rabbit消息隊列服務，配置認證服務訪問。最后，初始化數據庫[2]。

6 學生租戶的創建和OpenStack平臺開放鏡像權限

項目Project也稱為租戶，用于將OpenStack的資源（如：計算、存儲和網絡）進行分組和隔離，創建出的每一個項目可以代表一個學生租戶。只有該租戶下的用戶才可以訪問該項目的資源。創建時需要指定該租戶的名稱和配額。配額是指該租戶最多允許使用多少資源，如vCPU數、內存大小、存儲大小等。

同時可以添加項目成員（user） 到該租戶（project） 。

6.1 創建學生租戶和用戶

登錄controller節點，創建40個項目project，以學號命名11001-11040，也就是40個學生租戶。為每個學生租戶創建一個用戶，為110XXuser，密碼分別為110XXuser。

6.2 配額限制

通過管理員賬戶Admin登錄OpenStack平臺，找到“編輯配額”，分別對40個學生租戶進行配額限制。每名學生配額，10個實例，8核CPU，20G內存，400G磁盤。

6.3 創建實例類型

通過管理員賬戶Admin登錄OpenStack平臺，創建實例類型4個實例類型，HADOOP-控制臺，master- 類型，slave01-類型，slave02-類型。

6.4 OpenStack 平臺上傳鏡像并開放鏡像權限（僅以租戶11001為例）

首先上傳鏡像，教師提前做好Hadoop集群的三個節點鏡像，一個主節點鏡像master-image，兩個從節點鏡像slave01-image和slave02-image，外加一個控制臺鏡像windows10-image。在controller節點上把鏡像上傳至/root 目錄下，并通過命令上傳鏡像至Open?Stack中[8]。如圖2所示。

將這4 個鏡像分別共享給學生租戶11001。在此僅以鏡像master-image 為例。命令格式： glancemember-create <鏡像id> < 項目11001的id>。

[root@controller ～]#glance member-create 8bc452e4-4791-4db4-8247-b5d7ee521d77 a47222cd7f3b41f6a0c865829fd3f51d

在共享之后，鏡像的狀態是pending 狀態，此時還需要激活鏡像。命令格式：glancemember-update <鏡像id> <項目11001的id>accepted。

[root@controller ～]# glance memberupdate8bc452e4-4791-4db4-8247-b5d7ee521d77 a47222cd7f3b41f6a0c865829fd3f51d ac?cepted

7 學生部署Hadoop 集群

11001 號學生通過11001user 用戶名登錄Open?Stack平臺，利用鏡像自行部署Hadoop集群，創建出4 個實例：windows10-vm、 master-vm、slave01-vm、slave02-vm。如圖3所示。

上述虛擬機在開啟狀態，學生通過實例控制臺打開windows10-vm 界面，通過SecureCRT，連接上master-vm，slave01-vm，slave02-vm。啟動Hadoop 集群服務，[root@master ～]# start-all.sh。通過瀏覽器登錄，http：//master：50070， http：//master：8088。可以正常訪問Hadoop集群的HDFS界面和YARN界面，如圖4 所示。

8 結束語

本文基于OpenStack搭建了一個大數據實踐云平臺，平臺中提供了多種實例類型和鏡像，學生按需創建實例。平臺實現了資源的彈性分配、共享、有效管理和有效利用，具備虛擬化管理、存儲管理、安全管理、服務管理等功能模塊[6]。實踐平臺采用訪問控制、安全組等機制保證了該平臺的可靠性，還提供了接口實現了平臺的管理。教師以管理員身份登錄，對系統進行安裝配置和管理運維；學生用各自分配的賬號和密碼登錄實踐平臺做實訓，互不影響。