Quality of Service Quality of Service

(1)

Quality of Service Quality of Service

Seminar: Data Streams Seminar: Data Streams

Christian Stamber

(2)

Einleitung Verschiedene QoS-Kriterien QoS-Framework in Aurora QoS-beeinflusstes Scheduling in Aurora Lastreduktion in Aurora Weitere Ansätze

Überblick Überblick

1. 1. Einleitung Einleitung

2. 2. Verschiedene QoS-Kriterien Verschiedene QoS-Kriterien 3. 3. QoS-Framework in Aurora QoS-Framework in Aurora

4. 4. QoS-beeinflusstes Scheduling in Aurora QoS-beeinflusstes Scheduling in Aurora 5. 5. Lastreduktion in Aurora Lastreduktion in Aurora

6. 6. Weitere Ansätze Weitere Ansätze

(3)

1 Einleitung 1 Einleitung

Benutzerspezifische Anforderungen Benutzerspezifische Anforderungen

(z.B. min. Verzögerung der Ergebnistupel vs. exaktere Anfrageergebnisse) (z.B. min. Verzögerung der Ergebnistupel vs. exaktere Anfrageergebnisse)

Wozu QoS? Wozu QoS?

3 zentrale Aufgaben: 3 zentrale Aufgaben:

• Spezifikation der QoS-Anforderungen durch den Benutzer Spezifikation der QoS-Anforderungen durch den Benutzer

• Überwachung der vom System erreichten Dienstgüte Überwachung der vom System erreichten Dienstgüte

• Berücksichtigung der QoS-Anforderungen zur Durchführung Berücksichtigung der QoS-Anforderungen zur Durchführung von Systemaufgaben von Systemaufgaben

Einleitung

Zuordnung der Systemressourcen Zuordnung der Systemressourcen

 scheduling  scheduling

Mechanismen zur Verringerung der Systemlast

 load shedding  load shedding

(4)

2 Verschiedene QoS-Kriterien 2 Verschiedene QoS-Kriterien

 Verschiedene Anforderungen an das DSMS Verschiedene Anforderungen an das DSMS

 pro Anwendung/ Benutzer pro Anwendung/ Benutzer

 Kriterien zur Spezifikation und Sicherstellung Kriterien zur Spezifikation und Sicherstellung

 Vier wichtige Kriterien: Vier wichtige Kriterien:

 2.1 Antwortzeit 2.1 Antwortzeit

 2.2 Datenverlustrate 2.2 Datenverlustrate

 2.3 Attributwerte 2.3 Attributwerte

 2.4 Update-Rate 2.4 Update-Rate

 2.5 Festlegen der Anforderungen 2.5 Festlegen der Anforderungen

 2.6 QoS-Garantien 2.6 QoS-Garantien

Verschiedene QoS-Kriterien

(5)

2.1 Antwortzeit (1) 2.1 Antwortzeit (1)

100 200

300

100 Aktuelle Zeit: 500 Aktuelle Zeit: 500

Antwortzeit: 400 Antwortzeit: 400

Anfragenetzwerk

Operatorbox 1

Operatorbox 2

100

(6)

2.1 Antwortzeit (2) 2.1 Antwortzeit (2)

 Oft wichtigster Dienstgüteaspekt Oft wichtigster Dienstgüteaspekt

 insbesondere bei Realzeitanforderungen insbesondere bei Realzeitanforderungen

 monoton fallende Funktion monoton fallende Funktion

 je älter das Ergebnis, desto je älter das Ergebnis, desto geringer die Aussagekraft geringer die Aussagekraft

 Bsp.: Navigation Bsp.: Navigation

Antwortzeit/Verzögerung

N u tz en

1

0 0 δ

(7)

2.2 Datenverlustrate 2.2 Datenverlustrate

 Bei Überlastung des Systems müssen Daten verworfen werden Bei Überlastung des Systems müssen Daten verworfen werden

 wie viel ist zulässig? wie viel ist zulässig?

 oft antiproportionales Verhältnis zur Antwortzeit oft antiproportionales Verhältnis zur Antwortzeit

 in Überlast: je mehr Tupel bearbeitet werden, desto höher wird Antwortzeit in Überlast: je mehr Tupel bearbeitet werden, desto höher wird Antwortzeit

N u tz en

1

0 verworfene Tupel

0 100

gelieferte Tupel

%

(8)

2.3 Attributwerte 2.3 Attributwerte

 manche Tupel „wertvoller“ als andere manche Tupel „wertvoller“ als andere

 sollen nicht (so schnell) verworfen werden! sollen nicht (so schnell) verworfen werden!

Attributwert

N ut ze n

1

0 Kerntemperatur

N ut ze n

1

0

(9)

2.4 Update-Rate 2.4 Update-Rate

 Stellschraube an Eingabeströmen Stellschraube an Eingabeströmen

 Anpassung der Last  Anpassung der Last

  System aus Kap. 6 System aus Kap. 6

 Zeitintervalle Zeitintervalle

 z.B. alle 5 sek. ein neues Tupel z.B. alle 5 sek. ein neues Tupel

 Wertintervalle Wertintervalle

 z.B. bei Wertveränderung von 7% ein neues Tupel z.B. bei Wertveränderung von 7% ein neues Tupel

(10)

2.5 Festlegen der Anforderungen 2.5 Festlegen der Anforderungen

 Funktionen in Form von 2-dimensionalen Graphen Funktionen in Form von 2-dimensionalen Graphen

Nutzen

Antwortzeit 0.9 1

op1

op2

op3 I

₁

O

₁

O

₂

Nutzen

Antwortzeit 0.8 1

 Diskrete Werte Diskrete Werte

 z.B. (Antwortzeit: 5 sec., Datenverlustrate 50%) z.B. (Antwortzeit: 5 sec., Datenverlustrate 50%)

 mittels dieser Werte werden individuelle QoS-Funktionen gebildet mittels dieser Werte werden individuelle QoS-Funktionen gebildet

A ur or a S ys te m a us K ap . 6

(11)

2.6 QoS-Garantien 2.6 QoS-Garantien

 hohe Dynamik der Systemlast hohe Dynamik der Systemlast

 Eingaberate schlecht abschätzbar Eingaberate schlecht abschätzbar

 bursts bursts

 Wechselwirkungen von QoS-Kriterien untereinander Wechselwirkungen von QoS-Kriterien untereinander

 a priori oft schwer abzuschätzen a priori oft schwer abzuschätzen

 z.B. Antwortzeit vs. Datenverlustrate z.B. Antwortzeit vs. Datenverlustrate

 Lösung unabhängig vom Betriebssystem Lösung unabhängig vom Betriebssystem

Keine festen Garantien möglich!

(12)

3 QoS in Aurora 3 QoS in Aurora

 Konsequente Integration von QoS Konsequente Integration von QoS

 QoS zentraler Bestandteil QoS zentraler Bestandteil

 Load Shedder (inkl. QoS-Monitor) & Scheduler Load Shedder (inkl. QoS-Monitor) & Scheduler

 Beschränkung auf Beschränkung auf

 Antwortzeit Antwortzeit

 Datenverlustrate Datenverlustrate

 Attributwerte Attributwerte

QoS-Framework in Aurora

(13)

QoS in Aurora (2) QoS in Aurora (2)

 Load Shedder Load Shedder

 platziert dynamisch platziert dynamisch Drop-Operatoren Drop-Operatoren im Anfragenetzwerk, im Anfragenetzwerk, die ankommende Tupel teilweise verwerfen

die ankommende Tupel teilweise verwerfen

QoS-Framework in Aurora

verwerfe k %

Random

Drop _Filter

P(Wert)

Semantic Drop

Zwei Arten von Drop-Operatoren:

 Scheduler Scheduler

 bezieht Drops in Schedule ein und teilt Prozessorzeit zu bezieht Drops in Schedule ein und teilt Prozessorzeit zu

 Berücksichtigung der Antwortzeit bei Zuteilung des Berücksichtigung der Antwortzeit bei Zuteilung des Prozessors an die Boxen

Prozessors an die Boxen

(14)

4 QoS-beeinflusstes Scheduling in 4 QoS-beeinflusstes Scheduling in

Aurora Aurora

 „ „ Priority Assignment“ Priority Assignment“

 jeder Box wird Priorität zugeordnet jeder Box wird Priorität zugeordnet

 Box mit höchster Priorität erhält Prozessor Box mit höchster Priorität erhält Prozessor

 Berücksichtigung des Berücksichtigung des Antwortzeit-Kriteriums Antwortzeit-Kriteriums

  soll optimiert werden soll optimiert werden

 Zwei Kriterien zur Bestimmung des Schedule: Zwei Kriterien zur Bestimmung des Schedule:

Nutzen

Nutzen und und Dringlichkeit Dringlichkeit

 wie viel Dienstgüte kostet es, eine Box nicht auszuwählen wie viel Dienstgüte kostet es, eine Box nicht auszuwählen

 wie dringend ist die Abarbeitung einer Box wie dringend ist die Abarbeitung einer Box

QoS-beeinflusstes Scheduling in Aurora

(15)

QoS-beeinflusstes Scheduling in QoS-beeinflusstes Scheduling in

Aurora Aurora

 Boxen werden ausgewählt nach: Boxen werden ausgewählt nach:

1. 1. höchstem Nutzen: höchstem Nutzen: utility(b) = gradient(eol(b)) utility(b) = gradient(eol(b))

2. 2. höchster Dringlichkeit: höchster Dringlichkeit: urgency(b) = -est(b) urgency(b) = -est(b)

Antwortzeit

1

0 Kritische Punkte

cost(D(b)) est(b)

latency(b) eol(b)

I

₁

b

O

₁

O

₂

latency(b)

eol(b)

cost(D(b))

 Antwortzeit wird bei Scheduling berücksichtigt Antwortzeit wird bei Scheduling berücksichtigt

Bsp.:

QoS-beeinflusstes Scheduling in Aurora

(16)

5 Load Shedding 5 Load Shedding

 Lastverringerung durch Platzierung von Lastverringerung durch Platzierung von Drop-Operatoren im Anfragenetzwerk Drop-Operatoren im Anfragenetzwerk

 Ziel: QoS soll max. bleiben Ziel: QoS soll max. bleiben

4 Fragen:

5.1 5.1 Wann Wann und und wie viel wie viel Last soll angepasst werden? Last soll angepasst werden?

5.2 5.2 Wo Wo soll die Last angepasst werden? soll die Last angepasst werden?

5.3 5.3 Welche Tupel Welche Tupel dürfen verworfen werden? dürfen verworfen werden?

Lastreduktion in Aurora

(17)

5.1 Wann und wie viel Last soll 5.1 Wann und wie viel Last soll

angepasst werden?

 Gegeben: Gegeben:

 Systemkapazität C Systemkapazität C

 Headroom H Headroom H

 Zulässige Systembelastung CH Zulässige Systembelastung CH

 Berechnung von momentaner Systemlast Berechnung von momentaner Systemlast T = S + Q T = S + Q

 Datenstromlast Datenstromlast S (stream load) S (stream load)

 Warteschlangenlast Q (queue load) Warteschlangenlast Q (queue load)

 Verringerung der Last, wenn: Verringerung der Last, wenn: T > CH* T > CH*

 Dann Last verringern um: Dann Last verringern um: T – (CH)* T – (CH)*

(18)

Bestimmung der Datenstromlast S (1) Bestimmung der Datenstromlast S (1)

L(I

₁

) = c

₁

+ (s

₁

* c

₂

+ s

₁

* c

₄

) + (s

₁

* s

₂

* c

₅

+ s

₁

* s

₄

* c

₅

)

Box 4 c = 10 s = 0,9 Box 1

c = 10 s = 0,5

Box 2 c = 10 s = 0,8

Box 3 c = 5 s = 1,0

Eingabestrom I

₁

Ausgabestrom O

₁

Box 5 c = 10 s = 0,7

Box 6 c = 10 s = 0,5

Box 7 c = 5 s = 1,0

Eingabestrom I

₂

Ausgabestrom O

₂

  







 ⁿ

i

i i

j

j c

s I

L

1 1 1

) (

1) 1) wie teuer ist Verarbeitung eines Tupels über Eingabestrom I ? wie teuer ist Verarbeitung eines Tupels über Eingabestrom I ?

Bsp.:

L(I

₁

) = 24,25

Prozessorzyklen/Tupel

(19)

Bestimmung der Datenstromlast S (2) Bestimmung der Datenstromlast S (2)

Box 4 c = 10 s = 0,9 Box 1

c = 10 s = 0,5

Box 2 c = 10 s = 0,8

Box 3 c = 5 s = 1,0

Eingabestrom I

₁

Ausgabestrom O

₁

Aktualisierungsrate:

r r

₁₁

= 10 Tupel/Zeiteinheit = 10 Tupel/Zeiteinheit

Box 5 c = 10 s = 0,7

Box 6 c = 10 s = 0,5

Box 7 c = 5 s = 1,0

Eingabestrom I

₂

Ausgabestrom O

₂

Aktualisierungsrate:

r r

₂₂

= 20 Tupel/Zeiteinheit = 20 Tupel/Zeiteinheit

2 2

1 1

1 * ) (

* ) ( )

( I r L I r L I r

L S

m i

i

i   

 

 = 24,25 10 + 18,75 * 20 = 617,5 Zyklen/Zeiteinheit*

2) 2) wie hoch sind Verarbeitungskosten aller Eingabeströme ? wie hoch sind Verarbeitungskosten aller Eingabeströme ?

(20)

Bestimmung der Queuelast Q (1) Bestimmung der Queuelast Q (1)

Box 5 c = 10 s = 0,7

Box 6 c = 10 s = 0,5

Box 7 c = 5 s = 1,0

Eingabestrom I

₂

Ausgabestrom O

₂

Queue von Box 5:

100 Tupel

  







 ⁿ

k i

i i

k j

j

k s c

L ( ¹ )

L

₅

= c

₅

+ s

₅

* c

₆

+ s

₅

* s

₆

* c

₇

= 10 + 0,7 10 + 0,7 * 0,5 * 5 = 18,75* L

₆

= c

₆

+ s

₆

* c

₇

= 10 + 0,5 5 = 12,5*

L

₇

= c

₇

= 5

1) Wie teuer ist die Verarbeitung eines Tupels in der Queue von Box k ? 1) Wie teuer ist die Verarbeitung eines Tupels in der Queue von Box k ?

Prozessorzyklen/Tupel

(21)

Bestimmung der Queuelast Q (2) Bestimmung der Queuelast Q (2)

Box 5 c = 10 s = 0,7

Box 4 c = 10 s = 0,9 Box 1

c = 10 s = 0,5

Box 2 c = 10 s = 0,8

Box 3 c = 5 s = 1,0

Box 6 c = 10 s = 0,5

Box 7 c = 5 s = 1,0

Eingabestrom I

₁

Eingabestrom I

₂

Ausgabestrom O

₁

Ausgabestrom O

₂

Queue von Box 2:

50 Tupel

Queue von Box 5:

100 Tupel

L

₁

=24,25 L

₂

=14 L

₃

=5

L

₅

=18,75

L

₄

=14,5

L

₇

=5

L

₆

=12,5

i n

i

q

L RATE MELT

Q    

1

_

Q = MELT_RATE (L*

₂

* (# Tupel Queue 2) + L

₅

* (# Tupel Queue 5)) 2) Wie teuer ist die Verarbeitung aller in den Queues vorhandenen Tupel?

2) Wie teuer ist die Verarbeitung aller in den Queues vorhandenen Tupel?

= 0,1 (5 * 50 + 18,75 * 100) = 212,5 Zyklen/Zeiteinheit*

(22)

Wann und wie viel Last muss Wann und wie viel Last muss

angepasst werden?

 Gesamtlast: Gesamtlast: T = S + Q T = S + Q

T = 617,5 + 212,5 = 830

T = 617,5 + 212,5 = 830 Zyklen/ZE Zyklen/ZE

 Wann Wann Last reduzieren? Last reduzieren?

 falls falls T > CH* T > CH*

 Wie viel Wie viel Last muss reduziert werden Last muss reduziert werden ? ?

 T - CH* T - CH*

(23)

5.2 Wo soll die Last angepasst 5.2 Wo soll die Last angepasst

werden?

QoS

% gelieferte Tupel 1

100 50 0

B A

C

op1

op2

op3

D

E

I

₁

O

₁

O

₂

^QoS

% gelieferte Tupel 1

100 50 0

50%

 Wo soll der Drop-Operator platziert werden? Wo soll der Drop-Operator platziert werden?

 viele Möglichkeiten! viele Möglichkeiten!

QoS

Antwortzeit 1

QoS

Antwortzeit 1

Bsp.:

Auswahl:

Quotient „

Quotient „Verlust an QoS/Lastreduktion“ Verlust an QoS/Lastreduktion“

am kleinsten am kleinsten

(24)

5.3 Welche Tupel dürfen verworfen 5.3 Welche Tupel dürfen verworfen

werden? (1) werden? (1)

 Nur bei Nur bei Semantic Drop Semantic Drop

 Beispiel: Last soll um 20 % Beispiel: Last soll um 20 % verringert werden verringert werden

 Welche Tupel mit welchen Attributwerten sollen verworfen Welche Tupel mit welchen Attributwerten sollen verworfen werden?

werden?

  Tupel mit niedrigem Nutzen zuerst! Tupel mit niedrigem Nutzen zuerst!

Attributwert relative Häufigkeit

0,6

0 50 100

0,4

% gelieferte Tupel Nutzen

1

0 100 80 60 0

0,88

Attributwert Nutzen

1 0,2

0 50 100

(25)

Welche Tupel dürfen verworfen Welche Tupel dürfen verworfen

werden? (2) werden? (2)

 Beispiel: Die Last soll um Beispiel: Die Last soll um 20 % 20 % verringert werden verringert werden

Filterprädikat:

Filterprädikat: Wert Wert ≥ 25 ≥ 25

% gelieferte Tupel Nutzen

1

0 100 80 60 0

Attributwert Nutzen

1 0,2

0 50 100

0,88

Attributwert relative Häufigkeit

0,6

0 50 100

0,4

20% verwerfen

Intervall mit

niedrigstem Nutzen Werte < 25 verwerfen

(26)

5.6 LSRM 5.6 LSRM

cursor

Überlastung

T-(C*H) Drop Insertion Plan

10%

300%

weniger Last

verringern

mehr Last

verringern 20%

0%

QoS

(1,1,…,1)

(0,0,…,0)

 4 Schritte werden (teilweise) im Vorfeld ausgeführt 4 Schritte werden (teilweise) im Vorfeld ausgeführt

  gespeichert in statischer Tabelle: L gespeichert in statischer Tabelle: L oad oad S S hedding hedding Road R oad M M ap ap

(27)

6. Weitere Ansätze 6. Weitere Ansätze

6.1 6.1 Ansatz von Ansatz von Tu, Xia, und Prabhakar Tu, Xia, und Prabhakar

 Load Shedding Load Shedding

6.2 6.2 QoS-vorhersage bei kontinuierlichen QoS-vorhersage bei kontinuierlichen Anfragen

Anfragen

Weitere Ansätze

QoS-überwachtes Anbinden neuer Ströme

(28)

6.1 6.1 Ansatz von Ansatz von Tu, Xia, und Prabhakar Tu, Xia, und Prabhakar

 Erkenntnisse aus Regelungstechnik Erkenntnisse aus Regelungstechnik

 Regelkreis zur QoS-Überwachung Regelkreis zur QoS-Überwachung

Zugangs-

kontrolle CPU Queue

QoS- Adapter

Controller

EDF-Scheduler Datenströme CPU

Referenzwerte(U

_s

, M

_s

) Ausgabewerte(U

_r

, M)

Eingabewerte(U

_d

)

Load Shedder

U

_d

: Zu verringernde Last U

_s

: Max. zulässige Last U

_r

: derzeitige Last

M: Anzahl der verspäteten Antworten

M

_s

: zulässige Anzahl an verspäteten Antworten Berechnungseinheit

Weitere Ansätze

(29)

Load Shedding Load Shedding

 zur Lastanpassung wird zur Lastanpassung wird Update-Rate Update-Rate und und Datenverlustrate Datenverlustrate der der Eingabeströme Eingabeströme justiert justiert

 Regelkreis: historische Anpassungswerte werden bei Regelkreis : historische Anpassungswerte werden bei aktueller Anpassung berücksichtigt

aktueller Anpassung berücksichtigt

 ^







 ( ) ¹ ( ) )

( ^k

W k i

d k E k E i

U  

Bestimme U

_d

Passe Update-Rate und Datenverlustrate

schrittweise an

Anpassung vollständig?

ja nein

Weitere Ansätze

(30)

6.2 QoS-Vorhersage bei 6.2 QoS-Vorhersage bei kontinuierlichen Anfragen kontinuierlichen Anfragen

 Reguläre Vorgehensweise: Reguläre Vorgehensweise:

 ständige iterative Überprüfung der ständige iterative Überprüfung der Dienstgüte

Dienstgüte

  teuer! teuer!

  Maßnahmen erst bei Verletzung Maßnahmen erst bei Verletzung der Anforderungen

der Anforderungen

 Voraussage der Dienstgüte bei Voraussage der Dienstgüte bei kontinuierlichen Anfragen

kontinuierlichen Anfragen

 erwartete Verspätung des Ergebnisses erwartete Verspätung des Ergebnisses

  höhere Scheduling-Priorität höhere Scheduling-Priorität

 Ergebnis wird vor Deadline erwartet Ergebnis wird vor Deadline erwartet

  niedrigere Scheduling-Priorität niedrigere Scheduling-Priorität

 bei anhaltender Abweichung bei anhaltender Abweichung

  Load Shedding Load Shedding

Weitere Ansätze

(31)

Zusammenfassung Zusammenfassung

 Spezifizieren, Überwachen und Sicherstellen der Spezifizieren, Überwachen und Sicherstellen der Benutzeranforderungen

Benutzeranforderungen

 vier wichtige QoS-Kriterien vier wichtige QoS-Kriterien

 keine festen Garantien der Einhaltung! keine festen Garantien der Einhaltung!

 wichtigste QoS-Instrumente wichtigste QoS-Instrumente

 Load Shedding Load Shedding

 Scheduling Scheduling

 QoS in DSMS noch kaum verbreitet QoS in DSMS noch kaum verbreitet

 Spektrum möglicher Anwendungen groß, Spektrum möglicher Anwendungen groß, individuelle Anpassung kaum möglich individuelle Anpassung kaum möglich

 lückenlose Überwachung vs. schnelle Ergebnisse lückenlose Überwachung vs. schnelle Ergebnisse

(32)

Fragen?