Alexander Foken: Vorschlag: SelfHTML-Mirror-Netzwerk

Moin Moin!

Angesichts der Spendenaktion scheint es ja einiges an Bereitschaft zu geben, SelfHTML zu unterstützen. Deswegen mein Vorschlag, den Server wenigstens von der Last zu befreien, die statischen Webseiten (SelfHTML, Tipps & Tricks, Artikel und der andere "Kleinkram") auszuliefern.

Dieser Vorschlag ist erstmal unabhängig von der Spendenaktion für den neuen Server, und könnte für eine Übergangszeit auch den alten Server etwas entlasten. Die Umstellung auf den neuen Server bietet natürlich auch die Möglichkeit, das Mirror-Netzwerk auf dem neuen Server zu testen und langsam aufzubauen. Oder aber der neue Server übernimmt alle dynamischen Aufgaben (Forum, Suche, ...), während der alte Server nur noch für die statischen Seiten und das Verteilen der Updates für das Mirror-Netzwerk genutzt wird. Die Trennung dürfte dank der verschiedenen Subdomains unter teamone.de recht einfach sein.

Die Details:

Frei nach dem Prinzip von CPAN werden die statischen Seiten auf mehrere Mirror-Server verteilt, die von Freiwilligen gehostet werden. Der Server selbst liefert nur noch Redirects auf einen zufällig ausgewählten Mirror. Das läßt sich mit Apaches mod_rewrite leicht erledigen, siehe http://httpd.apache.org/docs/misc/rewriteguide.html unter "Archive Access Multiplexer". Die einzelnen Mirrors können sich in einem Cron-Job Updates vom Hauptserver bandbreitenschonend per rsync (http://rsync.samba.org/) abholen, alternativ eine diff-Datei abholen und per patch einbauen.

Für die User ändert sich nahezu gar nichts, sie können weiterhin über selfhtml.teamone.de/... auf SelfHTML verlinken. Der Apache leitet diesen ersten Request auf einen der Mirror weiter, und alle weiteren Resourcen (SelfHTML-Dateien etc) liefert dieser Mirror aus. Das einzig ungewöhnliche ist, das plötzlich eine Mirror-URL in der Adreßzeile auftaucht. Das dürfte auch etwas Traffic von teamone.de wegnehmen (für Leute, die lieber ewig auf selfhtml.teamone.de lesen statt eine lokale Kopie zu benutzen).

Es bietet sich an, diese Mirror mit DNS-Aliasen zu versehen, so daß die URL z.B. mirror42.selfhtml.teamone.de/selfhtml/ (oder noch schöner mirror42.selfhtml.org/selfhtml/) statt www.example.com/selfhtml/ heißt. Das wiederum bedeutet, daß Massenhoster-Domains wohl ausscheiden, da sie üblicherweise nur über den Servernamen die Internet-Präsenz auswählen. Hier sind also Freiwillige mit eigenen Servern gefordert, denen ein "fremder" DNS-Alias nichts ausmacht, oder die sogar einen eigenen Virtual Host für den SelfHTML-Mirror einrichten. FHs und Universitäten sollten damit eigentlich wenig Probleme haben. Vielleicht findet sich auch die eine oder andere Firma, die genügend Bandbreite "über" hat, um einen SelfHTML-Mirror zu hosten.

Mit einer kleinen Änderung an HTML-Code der index-Seite von selfaktuell.teamone.de könnte man Firmen den Mirror etwas schmackhafter machen, in dem man ihnen erlaubt, ein eigenes Banner einzusetzen, das auf jedem Mirror anders ist (aber immer unter der selben URL, z.B. "thismirror/banner.gif"). Eine Seite mit allen Mirrors wäre natürlich auch sinnvoll. Bindet man die Banner auf der Mirror-Seite direkt von den Mirrors ein, kann der User sogar abschätzen, welcher Mirror zur Zeit am schnellsten ist (der, dessen Banner zuerst geladen ist).

Sollte ein Mirror-Betreiber plötzlich "Amok laufen" und SelfHTML sabotieren, verfälschen, Dialler einschmuggeln oder sonstige Perversitäten betreiben, kann man einfach die Mirror-Liste für mod_rewrite so ändern, daß dieser Mirror nicht mehr genutzt wird. Den entsprendenden DNS-Alias müßte man auch ändern oder löschen. Mit entsprechend kurzen Gültigkeitszeiten für die DNS-Einträge sollte das kein großes Problem sein (siehe dyndns.org und ähnliche Anbieter).

Alexander

--
Nein, ich beantworte keine Fragen per eMail. Dafür ist das Forum da.
Today I will gladly share my knowledge and experience, for there are no sweeter words than "I told you so".
  1. Frei nach dem Prinzip von CPAN werden die statischen Seiten auf mehrere Mirror-Server verteilt, die von Freiwilligen gehostet werden. Der Server selbst liefert nur noch Redirects auf einen zufällig ausgewählten Mirror. Das läßt sich mit Apaches mod_rewrite leicht erledigen,

    Man muß nicht für alles mod_rewrite bemühen: Im teamone.de-Nameserver mehrere IPs für die jeweilige Domain ablegen, Mirror-Webserver entsprechend konfigurieren, fertig.

    Das einzig ungewöhnliche ist, das plötzlich eine Mirror-URL in der Adreßzeile auftaucht.

    Verwirrend und unnötig.

    Gruß,
      soenk.e

    1. Moin Moin !

      Man muß nicht für alles mod_rewrite bemühen: Im teamone.de-Nameserver mehrere IPs für die jeweilige Domain ablegen, Mirror-Webserver entsprechend konfigurieren, fertig.

      Stimmt.

      Das einzig ungewöhnliche ist, das plötzlich eine Mirror-URL in der Adreßzeile auftaucht.

      Verwirrend und unnötig.

      Da hab ich (mal wieder) nicht alles aus dem Kopf ins Posting bekommen. Meine Idee war, daß man per mod_rewrite auch Umleitungen in tiefere "Unterverzeichnisse" auf den Mirror-Servern haben kann:

      So würde dann z.B. http://selfhtml.teamone.de/html/allgemein/index.htm je nach Zufallsauswahl auf http://www.example.com/selfhtml/html/allgemein/index.htm, http://www.example.org/mirrors/selfhtml.teamone.de/html/allgemein/index.htm oder http://selfhtml.invalid.com/html/allgemein/index.htm umgeleitet werden. Bei einem DNS-basierten Mirroring müßten alle Mirror-Server SelfHTML & Co unter der selben URL anbieten. Der Ansatz über mod_rewrite würde den Mirror-Webmastern etwas mehr Freiheiten in Sachen Dateibaum und Virtual Hosts lassen.

      Alexander

      --
      Nein, ich beantworte keine Fragen per eMail. Dafür ist das Forum da.
      Today I will gladly share my knowledge and experience, for there are no sweeter words than "I told you so".
    2. Hallo!

      Man muß nicht für alles mod_rewrite bemühen: Im teamone.de-Nameserver mehrere IPs für die jeweilige Domain ablegen, Mirror-Webserver entsprechend konfigurieren, fertig.

      Geht das mit nicht-MX Einträgen?
      Bei MX weiß ich dass man da verschiedene Prioritäten eintragen kann, finde ich im übrigen sehr intelligent, aber AFAIK geht das nicht bei anderen Einträgen, oder?

      Soweit ich weiß darf z.B. ein A Eintrag nur eine IP haben, aber da kann ich mich irren, das ist nur das was ich bisher gedacht habe und ich habe bis jetzt auch keine Quelle gefunden wo steht dass man da mehrere IPs angeben kann.

      Kannst Du mir mal sagen wo das steht? Oder in welchem RFC und an welcher Stelle dort?

      Viele Grüße
      Andreas

      1. Man muß nicht für alles mod_rewrite bemühen: Im teamone.de-Nameserver mehrere IPs für die jeweilige Domain ablegen,

        Geht das mit nicht-MX Einträgen?

        Kannst Du mir mal sagen wo das steht? Oder in welchem RFC und an welcher Stelle dort?

        Das hat nichts mit irgendwelchen Standards zu tun, der Nameserver spuckt einfach je Anfrage eine andere IP aus. Ist vielleicht nicht die göttliche Krone der Lastverteilung, die dieser Örtlichkeit angemessen wäre, was ja auch gar nicht nötig ist und worum sich hier ja auch niemand Gedanken machen soll, weil der einfache Pöbel mit derartigen geistigen Tollereien nur wieder die Damen und Herren von der überaus wichtigen und fachlich unerreicht kompetenten Arbeit abhält, aber es funktioniert.

        Details findest Du in der Anleitung des Nameservers Deines Vertrauens, im Falle von BIND müsste eine Suche nach "round robin" zum Erfolg führen, wenn ich mich recht entsinne. Nachlesen darfst Du selbst, ich gehe jetzt Lindenstraße und Weltspiegel gucken :)

        Gruß,
          soenk.e

        1. Hi!

          Kannst Du mir mal sagen wo das steht? Oder in welchem RFC und an welcher Stelle dort?

          Das hat nichts mit irgendwelchen Standards zu tun, der Nameserver spuckt einfach je Anfrage eine andere IP aus.

          Aber das kann man nicht als Fallback Mechanismus verwenden, oder?
          Also wenn ServerA ausfällt dass alle clients auf ServerB geleitet werden, oder?
          Zumindest mein Mozilla und IE befragt den DNS nicht nochmal wenn der Server einmal nicht erreichbar ist.
          Hast Du ne Idee wie man das realisieren könnte, also außer nen Loadbalancer zu verwenden?

          Grüße
          Andreas

  2. Hallo Alexander Foken,

    Konkrete Frage: Wer soll das organisieren?

    Oh... eine Vision... ich sehe.. sehe.. ein Licht.. und aus dem Licht erscheint - was ist das? Oh mein..-.. Ein riesiges <I>! Es haelt direkt auf dich zu! Mach' dass du da wegkommst! (Oder auch nicht?)

    *SCNR* und ;-p

    David Schneider

  3. Moin!

    Angesichts der Spendenaktion scheint es ja einiges an Bereitschaft zu geben, SelfHTML zu unterstützen. Deswegen mein Vorschlag, den Server wenigstens von der Last zu befreien, die statischen Webseiten (SelfHTML, Tipps & Tricks, Artikel und der andere "Kleinkram") auszuliefern.

    Die statischen Seiten sind nicht das Problem.

    Und der Traffic ist auch nicht das Problem.

    Es ist lobenswert, dass du für denkbare Probleme eine Lösung anschieben willst, aber bitte entschuldige, wenn ich deinen Vorschlag sofort im Keim ersticken möchte: Es führt mit Sicherheit nicht zu einer zielführenden Diskussion.

    Es sind viermal mehr Spenden eingegangen, als vorgesehen waren. Dementsprechend kann jetzt "groß" eingekauft werden. In meinen Augen schon so "groß", dass es an Unvernunft grenzen könnte. Denn was soll (um ein hypothetisches Beispiel zu nennen) der neue Server mit einem Terabyte an Festplattenspeicher, wenn der jetzige Server kaum 15 GB verbraucht? Nur weil man sich ein "nettes" RAID-Array leisten kann, muß man es noch lange nicht anschaffen, nur um Geld zu verbraten.

    Das Developer-Team ist sich der Verantwortung, die die Einnahme von über 20.000 Euro mit sich bringt, vollkommen bewußt. Wir haben die Lage aber voll im Griff.

    Das Lösen nichtexistenter Probleme ist dabei nicht hilfreich. Weil alle Diskussionen über die Spendenaktion und damit verbundener "Wir helfen SelfHTML"-Aktionen Manpower binden. Die vergangenen Diskussionen zu diesem Thema bei Heise und hier im Forum haben bewiesen, dass Neider und Schlechtmacher immer wieder auftauchen, und es in solchen Diskussionen immer wieder erforderlich ist, dass Dinge klargestellt werden müssen. Also werden alle entsprechenden Diskussionen beobachtet und durch Postings in eine förderliche Richtung gelenkt. Die dazu erforderliche Aufmerksamkeit wäre aber viel besser in internen Diskussionen und Entscheidungen zur Anschaffung neuer Hardware investiert.

    Deshalb meine persönliche Bitte: SelfHTML geht es gut. Es gibt keine technischen Probleme mehr, die wir nicht ohne weitere fremde Hilfe lösen können. Wenn also unbedingt Problemlösungen für nichtexistente Probleme diskutiert werden müssen, dann bitte losgelöst von SELF. Die Theorie eines Mirror-Aufbaus ist durchaus nicht uninteressant.

    Danke für das Verständnis.

    - Sven Rautenberg

    --
    Die SelfHTML-Developer sagen Dankeschön für aktuell 20065,57 Euro Spendengelder!
    1. Moin Moin !

      Die statischen Seiten sind nicht das Problem.
      Und der Traffic ist auch nicht das Problem.

      Gut. Bleibt (beim Ansatz, DNS-Aliase zu verwenden) die Verfügbarkeit.

      Es sind viermal mehr Spenden eingegangen, als vorgesehen waren. Dementsprechend kann jetzt "groß" eingekauft werden. In meinen Augen schon so "groß", dass es an Unvernunft grenzen könnte. Denn was soll (um ein hypothetisches Beispiel zu nennen) der neue Server mit einem Terabyte an Festplattenspeicher, wenn der jetzige Server kaum 15 GB verbraucht? Nur weil man sich ein "nettes" RAID-Array leisten kann, muß man es noch lange nicht anschaffen, nur um Geld zu verbraten.

      Vollkommen richtig. In die Hardware-Diskussion will ich mich auch gar nicht einhängen, da sind genug kompetente Leute beteiligt.

      Das Developer-Team ist sich der Verantwortung, die die Einnahme von über 20.000 Euro mit sich bringt, vollkommen bewußt.

      Das habe ich nie bezweifelt.

      Die Theorie eines Mirror-Aufbaus ist durchaus nicht uninteressant.

      ... und könnte in die Planung des neuen Servers (der neuen Server?) mit einfließen.

      Danke für das Verständnis.

      Kein Problem. Ich bin überhaupt nicht gekränkt, wenn ein Vorschlag von mir abgelehnt wird.

      Alexander

      --
      Nein, ich beantworte keine Fragen per eMail. Dafür ist das Forum da.
      Today I will gladly share my knowledge and experience, for there are no sweeter words than "I told you so".
    2. hi,

      Es sind viermal mehr Spenden eingegangen, als vorgesehen waren. Dementsprechend kann jetzt "groß" eingekauft werden. In meinen Augen schon so "groß", dass es an Unvernunft grenzen könnte.

      nachdem du schon im anderen thread letzte tage mit deinen vagen andeutungen um missverständnisse und unmut, den die spendenaktion an anderer stelle ausgelöst haben soll, "unruhe gestiftet" hast, verstehe ich nicht, warum du jetzt mit solchen äusserungen erneut öl ins feuer giesst?

      Das Developer-Team ist sich der Verantwortung, die die Einnahme von über 20.000 Euro mit sich bringt, vollkommen bewußt. Wir haben die Lage aber voll im Griff.

      na also, wozu dann überhaupt obige aussage, die den eventuellem zweifeln, die du hier wieder zu zerstreuen versuchst, überhaupt erst wieder neue nahrung liefert?

      gruss,
      wahsaga

      1. hi,

        nachdem du schon im anderen thread letzte tage [...]

        verflixt, das warst ja gar nicht du, sondern der stefan einspender - da habe ich euch verwechselt, tut mir leid.

        nichts desto trotz gilt das gesagte m.E. auch hier.

        gruss,
        wahsaga

        1. Moin!

          nachdem du schon im anderen thread letzte tage [...]

          verflixt, das warst ja gar nicht du, sondern der stefan einspender - da habe ich euch verwechselt, tut mir leid.

          nichts desto trotz gilt das gesagte m.E. auch hier.

          Das Gesagte wurde unter dem Irrtum der aussagenden Person gesagt. An welchen deiner Aussagen willst du festhalten, wenn du weißt, dass ich zum besagten Dev-Team gehöre? Deine Fragen beantworte ich sehr gern - sofern sie denn an die zutreffende Person gestellt werden.

          - Sven Rautenberg

          --
          Die SelfHTML-Developer sagen Dankeschön für aktuell 20065,57 Euro Spendengelder!
          1. hi,

            An welchen deiner Aussagen willst du festhalten, wenn du weißt, dass ich zum besagten Dev-Team gehöre?

            an der obigen aussage

            wozu dann überhaupt obige aussage, die den eventuellem zweifeln, die du hier wieder zu zerstreuen versuchst, überhaupt erst wieder neue nahrung liefert?

            die sich auf deine formulierung

            Es sind viermal mehr Spenden eingegangen, als vorgesehen waren. Dementsprechend kann jetzt "groß" eingekauft werden. In meinen Augen schon so "groß", dass es an Unvernunft grenzen könnte.

            bezog. wozu noch solche äusserungen, die beim einen oder anderen doch noch zweifel erwecken könnten?

            gruss,
            wahsaga

            1. Hallo wahsaga!

              Es sind viermal mehr Spenden eingegangen, als vorgesehen waren. Dementsprechend kann jetzt "groß" eingekauft werden. In meinen Augen schon so "groß", dass es an Unvernunft grenzen könnte.

              bezog. wozu noch solche äusserungen, die beim einen oder anderen doch noch zweifel erwecken könnten?

              Der einzige der hier Zweifel erweckt bist Du, indem Du solche Aussagen aus dem Kontext reißt. Lies mal die 3 folgenden Sätze etwas genauer.

              Du und alle anderen können sich sicher sein, dass das Geld sehr wohl überlegt und sinnvoll eingesetzt wird. Und gerade Sven gehört zu denjenigen die genau dafür sorgen werden, was er durch seine Aussage hier nochmal unterstrichen hat. Alles was wir bisher gemacht haben ist vollkommen transparent, gleiches wird auch für die Anschaffung der Hardware gelten. Das war schon immer so und wird immer so sein. Für die  Interessierten wird es wieder einen Feature Artikel über das SELF-Server Konzept geben, wie diesen: http://aktuell.de.selfhtml.org/artikel/server/self/

              Das Geld wurde für Serverhardware gespendet, und zur Zeit beschäftigen sich die Devs sehr ausgiebig damit, mit welcher Hardware-Konstellation man die beste Zuverlässigkeit und höchste Perfomance erreicht, so dass das gesamte Projekt möglichst langfristig ohne Probleme darauf laufen kann. Und das wird allen hier zugute kommen.

              Also macht Euch mal keine Sorgen, Ziel der Devs ist es für Euch, die Benutzer und Spender, das gesamte SELFHTML-Online-Projekt so zuverlässig und schnell wie möglich zu machen. Das ist heute das Ziel, und war es von Anfang an, da gibt es keine Unstimmigkeiten und die gab es auch nie.

              Viele Grüße,
              Andreas