Ich muss mal Folgendes (vielleicht) aus dem Zusammenhang reißen:
wenn ich meine Versuchslösung optimieren wollte, würde ich mit Caching arbeiten. Da sich die alten Werte im Messdatenpool schließlich nicht mehr ändern, kann man die Berechnungen getrost in kleineren Portionen (Teildateien, z. B. eine pro Woche) cachen und die dann nach Bedarf wieder zusammenkleben
Caching auf der Platte, in einer DB, Memcached...? Ja, kann sinnvoll sein.
Aber bei der Nummer mit dem Cache im Code / Hauptspeicher bin ich skeptisch. Das mag vor 20 Jahren noch sinnvoll gewesen sein. Heute eher nicht mehr so sehr. Die Compiler/Interpreter machen da mittlerweile verdammt gute Arbeit. Klar, man kann auch gegen die Wand coden, aber das war früher nicht anders.
Wie gesagt, hardwarenahe Sachen ausgenommen.