Denkanstoß: Serverlast - Warnung

[CC]

Hallo,

ich mache mir gerade Gedanken über den möglichst besten Ansatz eine Lastwarnung in PHP zu realisieren. Ich möchte auf einem normalen Dedicated Server ohne Load Balancer statt der Ausführung eines Scriptes eine Warnmeldung ausgeben, daß der Server zur Zeit überlastet ist, wenn sich die Last dem kritischen Bereich nähert. Ein kleiner Denkanstoß über welchen Weg das am besten zu machen ist, würde mir schon reichen. Danke.

Gruß
CC

[Bio]

Sup!

Am besten, Du fragst das Betriebssystem, wie hoch die Last gerade ist?

Gruesse,

Bio

[CC]

Am besten, Du fragst das Betriebssystem, wie hoch die Last gerade ist?

Klar, aber ich will ja nicht bei jedem Seitenaufruf dafür Ressourcen verschwenden. Ich kann das auch in regelmäßigen Abständen überprüfen und dann das Ergebnis in einer Datenbank oder einem File speichern, so daß nicht andauernd die Last gecheckt wird. Meine Frage ist halt nur, was ist der allgemein effizienteste Weg? Wie wird das im üblichen gemacht.

Gruß
CC

[Christian Kruse]

Hallo CC,

Am besten, Du fragst das Betriebssystem, wie hoch die Last gerade ist?

Klar, aber ich will ja nicht bei jedem Seitenaufruf dafür Ressourcen verschwenden. Ich kann
das auch in regelmäßigen Abständen überprüfen und dann das Ergebnis in einer Datenbank oder
einem File speichern, so daß nicht andauernd die Last gecheckt wird. Meine Frage ist halt
nur, was ist der allgemein effizienteste Weg? Wie wird das im üblichen gemacht.

http://www.defunced.de/modules/mod_loadavg.c.gz
http://www.defunced.de/modules/mod_loadavg2.c.gz

Grüße,
 CK

[Bio]

Sup!

Ob der gute Mann wohl mit C viel anfangen kann?
Man koennte auch behaupten, es sei moeglicherweise latent arrogant, anzunehmen, Deine Methode der Last-Messung sei "ueblich" und "am effizientesten"...

Ueblich und effizient wird wahrscheinlich unter Linux sein, einfach /proc/loadavg zu parsen...

Gruesse,

Bio

[Christian Kruse]

Hallo Bio,

Ob der gute Mann wohl mit C viel anfangen kann?

Muss er nicht. Ein Apache-Modul kann man auch ohne C-Kenntnisse installieren.

Man koennte auch behaupten, es sei moeglicherweise latent arrogant, anzunehmen, Deine
Methode der Last-Messung sei "ueblich" und "am effizientesten"...

Grund?

Ueblich und effizient wird wahrscheinlich unter Linux sein, einfach /proc/loadavg zu parsen...

Weniger effizient und weniger üblich als die durch POSIX vorgesehenen Schnittstellen zu
nutzen.

Grüße,
 CK

[Bio]

Sup!

Man koennte auch behaupten, es sei moeglicherweise latent arrogant, anzunehmen, Deine
Methode der Last-Messung sei "ueblich" und "am effizientesten"...

Grund?

Zu behaupten, die beste Loesung zu kennen, ist jedenfalls kein Understatement.

Ueblich und effizient wird wahrscheinlich unter Linux sein, einfach /proc/loadavg zu parsen...

Weniger effizient und weniger üblich als die durch POSIX vorgesehenen Schnittstellen zu
nutzen.

Unter PHPlern?

Gruesse,

Bio

[Christian Kruse]

Hallo Bio,

Man koennte auch behaupten, es sei moeglicherweise latent arrogant, anzunehmen, Deine
Methode der Last-Messung sei "ueblich" und "am effizientesten"...

Grund?

Zu behaupten, die beste Loesung zu kennen, ist jedenfalls kein Understatement.

Habe ich das gesagt? Habe ich gesagt, ich nehme an, sie sei am effizientesten? Wieso ist
es arrogant, wenn jemand anderes sagt, meine Methode sei die effizienteste? Irgendwie
kriege ich den Bogen nicht so recht geschlagen.

Ich habe zwei Links gepostet. Nicht mehr und nicht weniger.

Ueblich und effizient wird wahrscheinlich unter Linux sein, einfach /proc/loadavg zu
parsen...

Weniger effizient und weniger üblich als die durch POSIX vorgesehenen Schnittstellen zu
nutzen.

Unter PHPlern?

PHPler kümmern sich üblicherweise gar nicht darum.

So, jetzt muss ich wegen dir rennen, dass ich noch pünktlich zur Vorlesung komme, tse.

Grüße,
 CK

[Bio]

Sup!

Habe ich das gesagt? Habe ich gesagt, ich nehme an, sie sei am effizientesten? Wieso ist
es arrogant, wenn jemand anderes sagt, meine Methode sei die effizienteste? Irgendwie
kriege ich den Bogen nicht so recht geschlagen.

Nicht mein Problem ;-)

Unter PHPlern?

PHPler kümmern sich üblicherweise gar nicht darum.

So, jetzt muss ich wegen dir rennen, dass ich noch pünktlich zur Vorlesung komme, tse.

Ja, lauf' Du nur! Spocht ist gesund! Und uebrigens: 5 Minuten zu spaet zu kommen ist verdammt cool ;-)

Gruesse,

Bio

[Mathias Bigge]

Hi Bio,

Habe ich das gesagt? Habe ich gesagt, ich nehme an, sie sei am effizientesten? Wieso ist
es arrogant, wenn jemand anderes sagt, meine Methode sei die effizienteste? Irgendwie
kriege ich den Bogen nicht so recht geschlagen.
Nicht mein Problem ;-)

Eine technische Debatte mit demjenigen einzugehen, der die jetzige Forumssoftware mit einem kleinen Lötkolben für 19,80 Euro, einigen handelsüblichen LEDs für 2 Cent das Stück und Kleinteilen aus dem Radio seines Großvaters entwickelt hat, grenzt an den Kampf des Erzengels Gabriel gegen den Drachen. Ich wünsche Dir daher im Sinne des rheinischen Katholizismus viel Erfolg!

Ach ja, PHPler, ist das so etwa Ähnliches wie ein "Profi"?

Viele Grüße
Mathias Bigge

[Bio]

Sup!

Eine technische Debatte mit demjenigen einzugehen, der die jetzige Forumssoftware mit einem kleinen Lötkolben für 19,80 Euro, einigen handelsüblichen LEDs für 2 Cent das Stück und Kleinteilen aus dem Radio seines Großvaters entwickelt hat, grenzt an den Kampf des Erzengels Gabriel gegen den Drachen. Ich wünsche Dir daher im Sinne des rheinischen Katholizismus viel Erfolg!

Viel Feind', viel Ehr'?

Ach ja, PHPler, ist das so etwa Ähnliches wie ein "Profi"?

Gngngngngng!!!

Gruesse,

Bio

[Mathias Bigge]

Hi Bio,

Viel Feind', viel Ehr'?

Warum soll man dann Vater und Mutter ehren?

Ach ja, PHPler, ist das so etwa Ähnliches wie ein "Profi"?
Gngngngngng!!!

Hehe, aber im Ernst, die meisten PHPler sind nett, geradezu "edition"!

Viele Grüße
Mathias Bigge

[Bio]

Sup!

Hehe, aber im Ernst, die meisten PHPler sind nett, geradezu "edition"!

Ahh... ja! Ich habe da einige leicht abwegige, egozentrische Assoziationen, wenn Du vielleicht die Bedeutung des Worts "edition" in diesem Zusammenhang naeher erlaeutern koenntest?

Gruesse,

Bio

[Andreas Korthaus]

Hi Bio!

Ahh... ja! Ich habe da einige leicht abwegige, egozentrische Assoziationen,

Einsicht ist der erste Weg zur Besserung... ;-)

Grüße
Andreas

[MichaelB]

Hallo Bio,

Ueblich und effizient wird wahrscheinlich unter Linux sein, einfach /proc/loadavg zu parsen...

Hey da kommt mir eine nette Idee, wie man dann sogar auf die Serverlast-Warnung ganz verzichten kann. Naemlich indem man einfach die Serverlast wieder heruntersetzt, indem man in die /proc/loadavg kleine Werte reinschreibt.

Gruss
   MichaelB

[Bio]

Sup!

Hey da kommt mir eine nette Idee, wie man dann sogar auf die Serverlast-Warnung ganz verzichten kann. Naemlich indem man einfach die Serverlast wieder heruntersetzt, indem man in die /proc/loadavg kleine Werte reinschreibt.

Sicher kann man so auch den Rechner um RAM und CPUs erweitern... *lol*

Gruesse,

Bio

[CC]

http://www.defunced.de/modules/mod_loadavg.c.gz
http://www.defunced.de/modules/mod_loadavg2.c.gz

Danke für die Links. Die Idee, dass über ein Modul anstatt über PHP zu lösen gefällt mir bei weitem besser. Gibt es ein Anwendungsbeispiel dafür?

Gruß
CC

[Christian Kruse]

Hallo CC,

http://www.defunced.de/modules/mod_loadavg.c.gz
http://www.defunced.de/modules/mod_loadavg2.c.gz

Danke für die Links. Die Idee, dass über ein Modul anstatt über PHP zu lösen gefällt
mir bei weitem besser. Gibt es ein Anwendungsbeispiel dafür?

# Loadavg in the last minute bigger than 2.5: response with 503
   ModLoadavg Off
   Loadavg1 2.5
   ErrorDocument 503 /fehler/suche_max.html

<Files "such.pl">
    ModLoadavg On
   </Files>

oder auch

ModLoadavg Off
   Loadavg1 2.5
   <Files "fo_arcview.pl">
    ModLoadavg On
   </Files>

So wird es hier im SELFHTML-Raum verwandt.

Grüße,
 CK

[Andreas Korthaus]

Hallo Christian!

# Loadavg in the last minute bigger than 2.5: response with 503
   ModLoadavg Off
   Loadavg1 2.5
   ErrorDocument 503 /fehler/suche_max.html

<Files "such.pl">
    ModLoadavg On
   </Files>

oder auch

ModLoadavg Off
   Loadavg1 2.5
   <Files "fo_arcview.pl">
    ModLoadavg On
   </Files>

So wird es hier im SELFHTML-Raum verwandt.

Ist die Grenze von 2.5 nicht etwas niedrig? Das bedeutet ja, dass Suche+Archiv nur funktionieren, wenn nicht mehr als ein Prozess in der "run queue" steht. IMHO sollte man diesen Wert auf 10 oder sogar 20 stellen. Sicher wird das System nur optimal ausgelastet, wenn der Load bei 1 steht, aber hier geht es IMHO eher um Kompromisse. Das heißt, man lässt mehr Such- und Archivanfragen zu, um den Preis dass das Forum oder der Apache minimal langsamer werden (was IMO kein Problem darstellt). Denn zur Zeit sind statische Seiten und Forum wirklich schnell, aber das Archiv oder die Suche funktionieren zeitweise auch nach 10 Versuchen nicht ein mal (auch über eine längere Zeit). Da Suchanfragen schonmal ein paar mehr Sekunden beanspruchen, geht es sehr schnell dass der loadavg auf >2.5 steigt, was dazu führt dass Archiv und vor allem Suche eher selten funktionieren.

Ich lese sehr oft von Leuten die es "normal" finden dass deren Server längere Zeit einen Load von 40 und mehr hat, und dass ein Load von 10 für so ein System wie unseres schlecht sein könnte habe ich noch nicht gelesen. Unser Server ist halt bis zum Anschlag ausgelastet, da ist ein etwas höherer Load IMHO durchaus akzeptabel. Natürlich nicht 70 oder 120... aber zu peak-Zeiten mal 10 oder 20 finde ich durchaus OK.

Oder hast Du schon verschiedene Werte unter andauernder Last getestet?

Viele Grüße
Andreas

[Christian Kruse]

Hallo Andreas,

Ist die Grenze von 2.5 nicht etwas niedrig?

Nein.

1. Bedeutet ein Loadavg1 'Load über die letzte Minute', das bedeutet, dass der Load,
      wenn 2.5 festgestellt wird, noch auf etwa 5 steigt.
2. Ist ein Load von 2 schon sehr viel.

Das bedeutet ja, dass Suche+Archiv nur funktionieren, wenn nicht mehr als ein Prozess in
der "run queue" steht.

Korrekt.

IMHO sollte man diesen Wert auf 10 oder sogar 20 stellen.

Dann geht gar nichts mehr.
Ok, an FreeBSD-Systemen kann man als root aufgrund von guten Scheduling-Algorithmen trotzdem
noch arbeiten, aber bei Linux 2.4 kann man ab einem Load von 4 nicht mehr arbeiten.

Sicher wird das System nur optimal ausgelastet, wenn der Load bei 1 steht,

Nein, wenn der Load bei 1 steht, ist das System bereits überlastet. Werte < 1 sind normal.

Das heißt, man lässt mehr Such- und Archivanfragen zu, um den Preis dass das Forum oder
der Apache minimal langsamer werden (was IMO kein Problem darstellt).

Du siehst ja, wie sehr bereits jetzt Suche + Forum manchmal stocken.

Denn zur Zeit sind statische Seiten und Forum wirklich schnell, aber das Archiv oder die
Suche funktionieren zeitweise auch nach 10 Versuchen nicht ein mal (auch über eine längere
Zeit).

Jo. Peek-Zeiten halt.

Da Suchanfragen schonmal ein paar mehr Sekunden beanspruchen, geht es sehr schnell dass
der loadavg auf >2.5 steigt, was dazu führt dass Archiv und vor allem Suche eher selten
funktionieren.

Nein, du hast das falsch Verstanden. Load bedeutet, Prozesse, die noch gar nicht bearbeitet
werden. Sie sind lediglich angemeldet. Wieviele Prozesse dann wirklich arbeiten, ist
unabhaengig vom Load-Wert. Heisst, eine bereits arbeitende Suche wird nicht zum Load-Wert
hinzuaddiert.

Ich lese sehr oft von Leuten die es "normal" finden dass deren Server längere Zeit
einen Load von 40 und mehr hat, und dass ein Load von 10 für so ein System wie unseres
schlecht sein könnte habe ich noch nicht gelesen. Unser Server ist halt bis zum Anschlag
ausgelastet, da ist ein etwas höherer Load IMHO durchaus akzeptabel. Natürlich nicht 70
oder 120... aber zu peak-Zeiten mal 10 oder 20 finde ich durchaus OK.

Nein. Du hast die Bedeutung von des Load-Wertes einfach missverstanden. Load bedeutet,
Anzahl der Prozesse, die nicht bearbeitet werden können, weil das System überlastet ist.
Ein schneller Prozessor kann z. B. 5, 6 hundert Prozesse in Bearbeitung haben, obwohl der
Load unter 1 ist. Erst wenn das System überlastet wird, steigt der Load-Wert.

Grüße,
 CK

[Andreas Korthaus]

Hallo Christian!

1. Bedeutet ein Loadavg1 'Load über die letzte Minute', das bedeutet, dass der Load,
      wenn 2.5 festgestellt wird, noch auf etwa 5 steigt.

hm? Wieso das? Es ist doch ein einfacher Durchschnittswert über die letzte Minute. Der Wert kann genausogut sinken?!

2. Ist ein Load von 2 schon sehr viel.

Also wenn ich auf meinem Server (Linux) per siege ein Benchmark starte, dann steigt der Load schnell mal auf Werte um 10... und dabei ist das System durchaus noch benutzbar. Darüber wird es dann merklich langsamer.

IMHO sollte man diesen Wert auf 10 oder sogar 20 stellen.

Dann geht gar nichts mehr.
Ok, an FreeBSD-Systemen kann man als root aufgrund von guten Scheduling-Algorithmen trotzdem
noch arbeiten, aber bei Linux 2.4 kann man ab einem Load von 4 nicht mehr arbeiten.

Da habe ich andere Erfahrungen gemacht.

Sicher wird das System nur optimal ausgelastet, wenn der Load bei 1 steht,

Nein, wenn der Load bei 1 steht, ist das System bereits überlastet. Werte < 1 sind normal.

Der Load-Wert beinhaltet auch laufende Prozesse

Da Suchanfragen schonmal ein paar mehr Sekunden beanspruchen, geht es sehr schnell dass
der loadavg auf >2.5 steigt, was dazu führt dass Archiv und vor allem Suche eher selten
funktionieren.

Nein, du hast das falsch Verstanden. Load bedeutet, Prozesse, die noch gar nicht bearbeitet
werden. Sie sind lediglich angemeldet. Wieviele Prozesse dann wirklich arbeiten, ist
unabhaengig vom Load-Wert. Heisst, eine bereits arbeitende Suche wird nicht zum Load-Wert
hinzuaddiert.

Das habe ich aber anders gelesen.

Zitat von Adrian Cockcroft aus "Sun Performance and Tuning [Coc95] in the section on p.97":

The load average is the sum of the run queue length and the number of jobs currently running on the CPUs. In Solaris 2.0 and 2.2 the load average did not include the running jobs but this bug was fixed in Solaris 2.3

http://www.luv.asn.au/overheads/NJG_LUV_2002/luvSlides.html
http://www.teamquest.com/resources/gunther/ldavg1.shtml

Zitat von Linus Torvalds:

Now, obviously the process that checks the loadaverage is always counted into it, so you have to subtract 1 from X to get a reasonable number

http://www.geocrawler.com/archives/3/35/1996/6/0/153424/

Ich lese sehr oft von Leuten die es "normal" finden dass deren Server längere Zeit
einen Load von 40 und mehr hat, und dass ein Load von 10 für so ein System wie unseres
schlecht sein könnte habe ich noch nicht gelesen. Unser Server ist halt bis zum Anschlag
ausgelastet, da ist ein etwas höherer Load IMHO durchaus akzeptabel. Natürlich nicht 70
oder 120... aber zu peak-Zeiten mal 10 oder 20 finde ich durchaus OK.

Nein. Du hast die Bedeutung von des Load-Wertes einfach missverstanden. Load bedeutet,
Anzahl der Prozesse, die nicht bearbeitet werden können, weil das System überlastet ist.

Wie gesagt, ich habe es mehrfach anders gelesen. Ich finde eine queue von 1 Prozess etwas kurz, kommt gerade auf unserem System halt schonmal vor dass ein Prozess länger auf Daten von der Festplatte warten muss... ich persönlich würde mal mit etwas höheren Werten testen, wenigstens mal 4 oder 5 oder sowas.

Ein schneller Prozessor kann z. B. 5, 6 hundert Prozesse in Bearbeitung haben, obwohl der
Load unter 1 ist.

Ja, weil sowas nicht effektiv ist. Wenn Du nur einen einzigen Prozess hast der die CPU 100% auslastet hast Du einen Load von 1.

Erst wenn das System überlastet wird, steigt der Load-Wert.

Ja, aber der Puffer sollte IMHO nicht zu klein sein.

Grüße
Andreas

[Christian Kruse]

Hallo Andreas,

1. Bedeutet ein Loadavg1 'Load über die letzte Minute', das bedeutet, dass der Load,
      wenn 2.5 festgestellt wird, noch auf etwa 5 steigt.
   hm? Wieso das? Es ist doch ein einfacher Durchschnittswert über die letzte Minute. Der
   Wert kann genausogut sinken?!

Nein.
Wenn der Load derart steigt, sind einige Such-Prozesse gestartet worden, die den Load auf
etwa 5 hochtreiben.

2. Ist ein Load von 2 schon sehr viel.
   Also wenn ich auf meinem Server (Linux) per siege ein Benchmark starte, dann steigt der
   Load schnell mal auf Werte um 10... und dabei ist das System durchaus noch benutzbar.
   Darüber wird es dann merklich langsamer.

Unser System wird jetzt schon merklich langsamer. Das Forum stockt ja durchaus mehrfach am
Tag, obwohl im Viewer-Prozess keinerlei Kommunikation mit dem Forums-Server gemacht wird.

[... Load beinhaltet auch laufende Prozesse ...]

Gut, in dem Punkt hattest du, so wie es aussieht, recht.

Erst wenn das System überlastet wird, steigt der Load-Wert.
Ja, aber der Puffer sollte IMHO nicht zu klein sein.

Das ist er nicht, glaube mir.

Grüße,
 CK

[Andreas Korthaus]

Hi Christian!

Nein.
Wenn der Load derart steigt, sind einige Such-Prozesse gestartet worden, die den Load auf
etwa 5 hochtreiben.

Wenn Du das tatsächlich daraus schließen kannst - OK. Du kennst die Maschine und deren Last ja schon ein paar Tage ;-)

Unser System wird jetzt schon merklich langsamer. Das Forum stockt ja durchaus mehrfach am
Tag, obwohl im Viewer-Prozess keinerlei Kommunikation mit dem Forums-Server gemacht wird.

Das stimmt.

[... Load beinhaltet auch laufende Prozesse ...]

Gut, in dem Punkt hattest du, so wie es aussieht, recht.

wenigstens etwas ;-)

Erst wenn das System überlastet wird, steigt der Load-Wert.
Ja, aber der Puffer sollte IMHO nicht zu klein sein.

Das ist er nicht, glaube mir.

Na wenn Du das sagst - dann bleibt mir wohl nichts anderes übrig als Dir zu glauben :)

Ich sehe halt z.B. bei Seiten wie kernel.org dass die ständig einen Load von 10 oder 20 haben, und AFAIK hat der kernel.org-Server 2 Perntium 3 CPUs. In diesem Moment steht da ein Load von 24 und ich kann nicht sagen das die Seite unerträglich langsam ist.

Aber vielleicht liegt das auch an den unterschiedlichen Anforderungen, die haben sicherlich nicht solche rechenintensiven Prozesse die so viel CPU-Zeit verbrauchen. Und mit 6 GB RAM ist der für statische Inhalte sicher gut gewappnet...

Viele Grüße
Andreas

[Christian Kruse]

Hallo Andreas,

Nein.
Wenn der Load derart steigt, sind einige Such-Prozesse gestartet worden,
die den Load auf etwa 5 hochtreiben.
Wenn Du das tatsächlich daraus schließen kannst - OK. Du kennst die Maschine
und deren Last ja schon ein paar Tage ;-)

Das sind halt die Ergebnisse von mehreren Wochen Logging mit und ohne
mod_loadavg.

Ich sehe halt z.B. bei Seiten wie kernel.org dass die ständig einen Load
von 10 oder 20 haben, und AFAIK hat der kernel.org-Server 2 Perntium 3
CPUs. In diesem Moment steht da ein Load von 24 und ich kann nicht sagen
das die Seite unerträglich langsam ist.

Nein, aber das sind 1. mehrere Prozessoren (das macht einen grossen
Unterschied!) und 2. hauptsächlich statische Seiten, soweit ich kernel.org
kenne. Statisches HTML ginge hier auch problemlos...

Grüße,
 CK

[Christian Seiler]

Hallo Christian,

Fatal! Ich kann kein Reserve-Offizier mehr sein!

Das interessiert mich jetzt aber mal. Wie kommt's?

Viele Grüße,
Christian

[Christian Kruse]

Hallo Christian,

Fatal! Ich kann kein Reserve-Offizier mehr sein!

Das interessiert mich jetzt aber mal. Wie kommt's?

*rotfl* Ich wusste gar nicht mehr, dass das in meinem Sigfile ist.

1. Bin ich ausgemustert worden und T5 und
2. War das eine Karrikatur in einer Satire-Zeitschrift ungefähr zur Zeit der industriellen
      Revolution. Da stand ein Mann mit seinem Bein in der Hand an einem Bahngleis und sagte mit
      einem entsetzen Gesichtsausdruck "Fatal! Ich kann kein Reserve-Offizier mehr sein!". Leider
      habe ich im Netz das Bild nicht gefunden, schade.

Grüße,
 CK

[CC]

So wird es hier im SELFHTML-Raum verwandt.

Perfekt. :-) Nochmal Danke.

Gruss
CC