Ein hierarchisches Scheduling-Modell für unbekannte Anwendungen mit schwankenden ...

271 Pages·2012·6.73 MB·German

Universität Ulm
Fakultät für Ingenieurwissenschaften, Informatik und Psychologie
Institut für Organisation und Management von Informationssystemen
Ein hierarchisches Scheduling-Modell für
unbekannte Anwendungen mit schwankenden
Ressourcenanforderungen
Dissertation
zur Erlangung des Doktorgrades
Dr. rer. nat.
der Fakultät für Ingenieurwissenschaften, Informatik und Psychologie
der Universität Ulm
vorgelegt von
Vladimir Volodiev Nikolov
aus Sofia, Bulgarien
April 2016

Amtierender Dekan: Prof. Dr. Tina Seufert
1. Gutachter: Prof. Dr.-Ing. Franz J. Hauck
2. Gutachter: Prof. Dr.-Ing. Stefan Wesner
Tag der Promotion: 04. August 2016
I

Zusammenfassung
Weiche Echtzeitsysteme, die mit unbekannten, dynamisch gestarteten und gestoppten Anwen-
dungenumgehenmüssen,sindschwerzuanalysiereninHinblickaufihrePlanbarkeit.Einsolches
System muss in der Lage sein, sich dynamisch an die tatsächlichen Anforderungen der Anwen-
dungenanzupassen.EsbenötigtebensoMechanismenzurKontrolleundBehebungvonÜberlast,
welche durch die Konkurrenz der Anwendungen um gemeinsam genutzte Ressourcen entstehen
kann. Da Schätzungen der Ausführungszeiten von Anwendungsaktivitäten von vornherein nicht
bekannt sind, muss das System diese zur Laufzeit ermitteln und sich auf Schwankungen im
Ressourcenverbrauch der Aktivitäten einstellen. Im Rahmen dieser Promotionsarbeit wurde aus
diesem Kontext ein adaptives, hierarchisches Scheduling-Modell abgeleitet, das mit einer dy-
namischen Menge von unbekannten Applikationen mit schwankenden Ressourcenanforderungen
umgehen kann. Auf der untersten Ebene stellt der Scheduler die korrekte Ausführung von Ap-
plikationsaufgaben, gemäß ihrer zur Laufzeit approximierten Bedarfe, sicher. Auf den höheren
Ebenen werden Applikationen voneinander isoliert, während der Scheduler kontinuierlich die
ihnen zugewiesenen Kapazitäten kalibriert und lokale Planbarkeitsanalyse betreibt. Entstehen
Engpasssituationen, so wird ein Mechanismus zur gezielten Herabsetzung (Degradierung) der
Ressourcenanforderungen der Applikationen angewendet. Dabei wird dynamisch jeweils eine
von mehreren Qualitätsstufen (Betriebsmodi) der Anwendungen ausgewählt und umgeschal-
tet. Solche Rekonfigurationen sollen allerdings so selten wie möglich stattfinden, da sie mit
zusätzlichen Kosten für die Anwendungen und das System verbunden sind. Mit dem erarbei-
teten Scheduling-Modell wird das Problem des Planbarkeitsnachweises räumlich partitioniert
und zeitlich verteilt. Planbarkeitstests werden nur bei Bedarf für bestimmte Bereiche im Sys-
tem betrieben, dann und dort, wo es notwendig ist. In der Zwischenzeit nimmt der Scheduler
die Planbarkeit der bestehenden Konfiguration an, solange die Kostenschätzungen der Appli-
kationsaktivitäten bestimmte adaptive Sicherheitspuffer nicht überschreiten. Werden die Tole-
ranzgrenzen verletzt, so wird eine neue optimale Ressourcenkonfiguration berechnet und dabei
unter Umständen die Qualität einer oder mehrerer Anwendungen verändert. Treten Frist- oder
Toleranz-Verletzungen periodisch auf, so werden diese vom System detektiert und damit ver-
III
bundene periodische Rekonfigurationen automatisch unterdrückt. Das Scheduling-Modell wurde
mit RTSJ implementiert und innerhalb eines Soft-Echtzeit-Frameworks ARTOS integriert. Für
dessen Evaluation wurden unter anderem künstliche Anwendungen entwickelt, die eine reale
Arbeitslast erzeugen und dabei bestimmte Lastprofile befolgen. Bei den Experimenten wurden
die Applikationen zunächst mit einer niedrigen Priorität gestartet und initial ausgemessen. Da-
durch entstehen erste Schätzungen für alle Anwendungsmodi, welche bei späterer Aktivierung
verfeinertwerden.Somitkonntebereitsexperimentellnachgewiesenwerden,dass(a)dasSystem
schnelleineoptimaleModi-SelektionfürdieAnwendungenetabliert,(b)esplanbarbleibt,solan-
ge Tasks innerhalb der ermittelten Toleranzgrenzen verbleiben, (c) Fristverletzungen nur dann
auftreten, wenn Tasks ihre Grenzen verlassen, (d) Planbarkeitstests häufiger für Apps durch-
geführt werden, deren Task-Anforderungen sich stärker als die Adaptionsgeschwindigkeit ihrer
Sicherheitspuffer verändern und (f) zyklische Bursts automatisch durch das System detektiert
und behandelt werden. Eine automatische Anpassung der Adaptionsgeschwindigkeit der Sicher-
heitspuffer, anhand eines dynamisch extrahierten Verhaltensprofils für die jeweilige Anwendung,
ist in Arbeit. Anhand des bereitgestellten Entwicklungsmodells für ARTOS-kompatible Appli-
kationen, wurde darüber hinaus im Rahmen dieser Arbeit eine Video-On-Demand Anwendung
implementiert,diezurweiterenEvaluationdesModellsanhandeinesrealenSzenariosdient.Das
Scheduling-Modell wurde bereits als Grundlage für die Ressourcensteuerung innerhalb einer dy-
namischen Cloud-Plattform verwendet [1].
IV
Abstract
Soft real-time systems that have to deal with unknown, dynamically loaded and stopped appli-
cations are hard to analyse for feasibility. Such systems must be capable to dynamically adapt
themselves to actual requirements of applications. They further require mechanisms to control
and resolve overload situations, which may arise while apps compete for common shared re-
sources. Since estimations of actual execution times of activities are not available from the start,
theyhavetobedeterminedbythesystemduringruntime.Theestimationsmustbealsoadopted
to fluctuations within the measured resource demands of the activities. In this PhD thesis an
adaptive hierarchical scheduling model for a dynamic set of applications with fluctuating re-
source demands has been developed. On the lowest level the scheduler ensures correct execution
of application tasks according to online approximations of their demands. On the higher levels
isolation between the apps is provided while the scheduler continuously re-calibrates given ca-
pacities and performs local schedulability analysis for application tasks. In bottleneck situations
an optimal degradation is applied by assigning one of different quality levels to the apps based
on their resource estimations and priorities. Thereby, applications are activated in different ope-
rational modes. However, such reconfigurations must happen as rarely as possible, because they
introduce an additional computational overhead for the system. With the proposed scheduling
architecture the problem of proving schedulability is spatially partitioned and temporally distri-
buted. Tests are performed portion-wise only when and where necessary. The model maintains
feasibilityuntilcostestimationsviolatecustomsafetybuffersandresourcebounds.Insuchcases
a new optimal resource configuration is computed changing the quality of some apps. Periodic
violations are also dedected automatically suppressing recurring reconfigurations in the system.
TheschedulingmodelwasimplementedwithRTSJandintegratedwithinasoftreal-timeframe-
work ARTOS. For evaluation of its scheduling mechanisms artificial apps were developed, which
can produce real computational overhead within a platform following a certain load-profile. In
our experiments new apps were run with a low priority until their modes were initially estima-
ted. We were able to verify that (a) the system quickly establishes an optimal modes selection
respecting priorities (b) it remains feasible when tasks reside within their tolerance limits (c)
V
deadline misses occur only if tasks leave their safety buffers (d) feasibility analysis is performed
more frequently for apps with stronger fluctuations than their buffer adaptation speed and (f)
cyclicburstscanbeautomaticallydetectedandtreatedbythesystem.Anautomaticadjustment
of thebuffer adaptationspeed basedon dynamically extracted application profilesis planned for
the future. Based on the provided architectural model for multi-mode applications, an ARTOS-
compatible Video-on-Demand application was implemented and used for further evaluation of
the scheduler within a realistic scenario. The scheduling model has been further used as a basis
for an adaptive resource-management framework within a dynamic cloud-platform [1].
VI
Danksagungen
Zunächst möchte ich mich ganz herzlich bei Herrn Prof. Franz Hauck für die Betreuung meiner
Arbeit und für die unzähligen, fördernden fachlichen Diskussionen bedanken.
Darüber hinaus gilt ein besonderer Dank Herrn Prof. Stefan Wesner und Herrn Lutz Schubert,
die mir während meiner Beschäftigung am Institut für Organisation und Management von In-
formationssystemen die Möglichkeit gewährt haben, mich mit neuen, spannenden Themen zu
beschäftigen und somit auch neue Anwendungsfelder für die in meiner Promotionsarbeit entwi-
ckelten Modelle und Mechanismen zu entdecken.
Ferner möchte ich mich bei den Entwicklern von Aicas und ganz besonders beim Herrn Marvin
Blauth bedanken, die die in dieser Arbeit vorgeschlagenen Erweiterungen und Anpassungen von
RTSJ in kürzester Zeit innerhalb der JamaicaVM implementiert und integriert haben.
DieseArbeitmöchteichmeinerFamiliewidmen,diemichstetsbedingungslosunterstützthat.
„Es ist nicht zu wenig Zeit, die wir haben, sondern es ist zu viel Zeit, die wir nicht nutzen.“
Lucius Annaeus Seneca
„Demoskopie ist die Kunst, hinterher zu begründen, warum alles ganz anders gekommen ist.“
David Frost
VII