Resource allocation in a Cloud partially powered by renewable energy sources

128 Pages·2017·4.16 MB·English

by  Yunbo Li

Resource allocation in a Cloud partially powered by
renewable energy sources
Yunbo Li
To cite this version:
YunboLi. ResourceallocationinaCloudpartiallypoweredbyrenewableenergysources. Distributed,
Parallel, and Cluster Computing [cs.DC]. Ecole nationale supérieure Mines-Télécom Atlantique, 2017.
English. ￿NNT: 2017IMTA0019￿. ￿tel-01595953￿
HAL Id: tel-01595953
https://theses.hal.science/tel-01595953
Submitted on 27 Sep 2017
HAL is a multi-disciplinary open access L’archive ouverte pluridisciplinaire HAL, est
archive for the deposit and dissemination of sci- destinée au dépôt et à la diffusion de documents
entific research documents, whether they are pub- scientifiques de niveau recherche, publiés ou non,
lished or not. The documents may come from émanant des établissements d’enseignement et de
teaching and research institutions in France or recherche français ou étrangers, des laboratoires
abroad, or from public or private research centers. publics ou privés.
Thèse de Doctorat
Yunbo L
I
Mémoire présenté en vue de l’obtention du
gradedeDocteurdel’École nationale supérieure Mines-Télécom Atlantique Bretagne Pays de la
Loire
sous le sceau de l’Université Bretagne Loire
Écoledoctorale: Sciencesettechnologiesdel’information,etmathématiques(STIM503)
Discipline: Informatique,sectionCNU27
Unitéderecherche: Laboratoire des Sciences du Numérique de Nantes (LS2N) & Institut de Recherche en
InformatiqueetSystèmesAléatoires(IRISA)
Soutenuele12juin2017
Thèsenuméro: 2017IMTA0019
Resource allocation in a Cloud partially
powered by renewable energy sources
JURY
Président: M.Romain ROUVOY,Professeur,UniversitédeLille
Rapporteurs: M.Pascal BOUVRY,Professeur,UniversitéduLuxembourg
Mme Patricia STOLF,Maîtredeconférences(HDR),UniversitéToulouseJean-Jaurès
Examinateurs: M.Laurent LEFÈVRE,Chargéderecherche(HDR),Inria
M.Romain ROUVOY,Professeur,UniversitédeLille
Directeurdethèse: M.Jean-Marc MENAUD,Professeur,IMTAtlantique
Co-directricedethèse: Mme Anne-Cécile ORGERIE,Chargéederecherche,CNRS

Remerciements
Je voudrais tout d’abord remercier tout particulièrement mes encadrants de thèse, Dr.
Anne-Cécile Orgerie (CNRS) et Pr. Jean-Marc Menaud (IMT-Atlantique), qui m’ont dirigé
tout au long de ces trois années de thèse. Ils ont toujours été disponibles, à l’écoute de mes
nombreusesquestions,etsesonttoujoursintéressésàl’avancéedemestravaux.
JetiensàexprimermareconnaissanceàDr. ChristineMorin,jesuisravid’avoirtravaillé
dans son équipe Myriads. Je remercie également Pr. Jean-Louis Pazat qui m’a beaucoup
apporté.
Dr. Patricia Stolf et Pr. Pascal Bouvry m’ont fait l’honneur d’être rapporteurs de ma
thèse,pourletempsconsacréàlalecturedecettethèse,etpourlessuggestionsetlesremar-
quesintéressantesqu’ilsm’ontfaites.
Je tiens à remercier Dr. Laurent Lefèvre et Pr. Romain Rouvoy pour avoir accepté de
participeràmonjurydethèse.
Ayant effectué mon stage à l’Université Rutgers, je remercie Pr. Manish Parashar et Dr.
Ivan Rodero avec qui j’ai eu la chance de pouvoir travailler. Leur rigueur, leurs capacités
d’analysedesproblèmesetleursconnaissancesontététrèsutilespourmepermettredepro-
gresserainsiquelleursréponsesàmesquestions.
Je remercie également tous les thésards David Guyon, Ismael Cuadrado Cordero, Anna
Giannakou, Bogdan F. Cornea, Amir Teshome Wonjiga, Anca Iordache, Genc Tato et Gilles
Madi-Wambaquim’ontentouréetm’ontconseillé.
Je remercie toutes les personnes dans le projet EPOC qui j’ai partagé mes travaux et no-
tamment ces années de thèse : Nicolas Beldiceanu, Bárbara Dumas Feris, Philippe Gravey,
SabbirHasan,ClaudeJard,ThomasLedoux,DidierLime,GillesMadi-Wamba,PascalMorel,
MichelMorvan,Marie-LaureMoulinard,Jean-LouisPazat,OlivierH.Roux,AmmarSharaiha.
Mes derniers remerciements vont à mes parents et ma copine Zifan, je n’aurais rien fait
detoutcelasansvotreamour.
3

Contents
Remerciements 3
ListofTables 7
ListofFigures 9
1 Introduction 13
1.1 Context . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
1.2 ProblemStatementandResearchChallenges . . . . . . . . . . . . . . . . . . . 14
1.3 Contributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
1.3.1 Publications . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.2 Dissertationorganization . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2 StateoftheArt 19
2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 Datacenter: server,storageandnetworkenergyuse . . . . . . . . . . . . . . . 19
2.2.1 Datacentertypesandcomponents . . . . . . . . . . . . . . . . . . . . . 20
2.2.2 Energyconsumptionofcomputing,storageandnetworkdevices . . . 21
2.2.3 Greenmetrics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.3 Energysavingapproaches . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.3.1 Energyefficiency . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.3.2 Energyproportionality . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.3.3 VirtualizedInfrastructureforCloudComputing . . . . . . . . . . . . . 28
2.3.4 Alittlemoregreen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
2.3.5 Novelcloudarchitectures . . . . . . . . . . . . . . . . . . . . . . . . . . 36
2.4 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
3 EpoClouddatacenter 39
3.1 EpoCloudprinciples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39
3.2 EpoCloudhardwarearchitecture . . . . . . . . . . . . . . . . . . . . . . . . . . 40
3.2.1 HighthroughputopticalnetworksforVMmigration . . . . . . . . . . 41
3.2.2 Diskthroughput . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.3 Realtraces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3.3.1 Workloadtrace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
3.3.2 Solarenergytrace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4 Trace-drivensimulator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.5 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
5
6 CONTENTS
4 Opportunistic scheduling (PIKA) for maximizing renewable energy consumption
inCloud’sdatacenters 49
4.1 Problemformulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.1.1 Job . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.1.2 Workload . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4.2 PIKAoverview . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
4.3 Resourcemanagementandjobscheduling . . . . . . . . . . . . . . . . . . . . . 53
4.3.1 OverloadedPMdetection . . . . . . . . . . . . . . . . . . . . . . . . . . 53
4.3.2 Gap . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
4.3.3 VMplacement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
4.3.4 Consolidationandmigration . . . . . . . . . . . . . . . . . . . . . . . . 56
4.4 Over-commitresourcepolicies . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.4.1 Nonover-commitpolicy . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.4.2 Over-commitRAMpolicy . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.4.3 Over-commitCPUpolicy . . . . . . . . . . . . . . . . . . . . . . . . . . 57
4.4.4 OptimalOver-commitCPU/RAMpolicy . . . . . . . . . . . . . . . . . 57
4.5 Experimentalsetup . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.5.1 Trace-drivensimulator . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.5.2 Real-worldtraces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.6 Evaluation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.6.1 Theperformanceofresourceover-commitmentpolicies . . . . . . . . . 58
4.6.2 Energymodel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
4.6.3 Simulationresults . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
4.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
5 Balancingtheuseofbatteriesandopportunisticschedulingpolicies 65
5.1 EnergyStorageDevices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
5.2 Contextandassumptions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
5.2.1 Smallandmediumdatacenters . . . . . . . . . . . . . . . . . . . . . . . 67
5.2.2 ESDmodel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
5.3 VMscheduling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5.3.1 Baselinealgorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
5.3.2 Opportunisticjobscheduling . . . . . . . . . . . . . . . . . . . . . . . . 69
5.3.3 Batterycharge/dischargemodel . . . . . . . . . . . . . . . . . . . . . . 69
5.4 Experimentationconditions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70
5.4.1 Workloadtrace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
5.4.2 Solarenergytrace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
5.5 Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
5.5.1 Findtheoptimalsolarpaneldimension . . . . . . . . . . . . . . . . . . 71
5.5.2 Findoptimalbatterysizeinidealcase . . . . . . . . . . . . . . . . . . . 72
5.5.3 Opportunistic vs. baseline when solar energy is not sufficient for the
entireworkloadconsumption . . . . . . . . . . . . . . . . . . . . . . . . 73
5.5.4 Solarenergylosseswithvariablebatterysize . . . . . . . . . . . . . . . 74
5.5.5 Opportunisticschedulingmigrationvs. baselinebatteryloss . . . . . . 74
5.5.6 FFDschedulingimpact . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
5.5.7 Comparisonoftheapproachesonarealisticscenario . . . . . . . . . . 76
5.6 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
CONTENTS 7
6 LeveragingRenewableEnergyinEdgeCloudsforDataStreamAnalysisinIoT 79
6.1 DrivingUseCase . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
6.2 Systemmodelandassumptions . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
6.2.1 EdgeandCoremodel . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
6.2.2 RenewableenergyandESDmodel . . . . . . . . . . . . . . . . . . . . . 82
6.3 Experimentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
6.3.1 Setup . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82
6.3.2 VMsizeandtimeanalysis . . . . . . . . . . . . . . . . . . . . . . . . . . 83
6.3.3 Edgeandcoreclouds’energyconsumption . . . . . . . . . . . . . . . . 85
6.3.4 Thedetectionaccuracyandnumberofcameras . . . . . . . . . . . . . 87
6.4 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
7 Conclusion 91
7.1 SummaryoftheDissertation . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
7.2 Perspective . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
7.2.1 Thermal-awarejobscheduling . . . . . . . . . . . . . . . . . . . . . . . 93
7.2.2 In-transitstrategy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
7.2.3 Geographicallydistributeddatacenters . . . . . . . . . . . . . . . . . . 94
A Appendix-SimplificationofEquation6.2 97
B Appendix-Simulatordescription 101
B.1 Datacentermodule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
B.2 Servermodule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103
B.3 Energyconsumptionmoduleandinterface . . . . . . . . . . . . . . . . . . . . 103
B.4 VMmodule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
B.5 Web/batchJobsmodule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
B.6 ESDmodule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
C Résuméenfrançais 107
C.1 Contexte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
C.2 Problématique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
C.3 Contributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
C.4 Approcheopportuniste . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
C.5 Combinerl’utilisationdebatteriesetl’approcheopportuniste . . . . . . . . . 111
C.6 Explorerl’intégrationd’énergiesolairedansleEdgeComputing . . . . . . . . 112
C.7 Organisationdumanuscrit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
Bibliography 115

List of Tables
2.1 Greenmetrics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
3.1 DifferentVolumeofSSD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
3.2 PerformancewithdifferentnumberofchannelsforPCIe . . . . . . . . . . . . 42
3.3 Initialserver’shardwareconfiguration . . . . . . . . . . . . . . . . . . . . . . . 43
4.1 Jobcharacteristics(Hour) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.2 NumberofVMsonPM1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
4.3 NumberofVMsonPM2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
4.4 Energysavingresults(kWh) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62
5.2 Theenergyconsumptionwitha160m2 solarfarmand40kWhLIbattery . . 76
9