JürgenB: Wiki-Artikel Rechnerarithmetik

Beitrag lesen

Hallo,

Ja, arithmetischer Überlauf...

der tritt natürlich nur bei "echeten" Integerzahlen auf. Also im Webumfeld bzw. bei Javascript nicht von Bedeutung.

Äh, doch:

var max = Number.MAX_VALUE;
var x = max + 10;

var min = Number.MIN_VALUE;
var y = min - 10;

console.log(x, x == max, y, y == min);

Und ja, das Verhalten ist… merkwürdig.

das ist aber die schon weiter oben beschriebene Folge der endlichen Genauigkeit.

Ich meine die Eigenschft (oder Eigenart) von Integerzahlen (z.B. in C, Fortran oder auch LabView), dass es bei Bereichsüberschreitung keinen Overflowerror gibt und das Carry einfach ignoriert wird.

Gruß Jürgen

1 90

Wiki-Artikel Rechnerarithmetik

Camping_RIDER
  • selfhtml-wiki
  • zur info
  1. 0
    Matthias Apsel
    1. 0
      Camping_RIDER
      1. 0
        Auge
        1. 0
          Camping_RIDER
        2. 0
          Der Martin
    2. 0
      MudGuard
      1. 0
        Matthias Apsel
        • selfhtml-wiki
        1. 0
          Camping_RIDER
          1. 0
            Gunnar Bittersmann
            1. 0
              Der Martin
              1. 0
                Gunnar Bittersmann
                1. 0
                  Camping_RIDER
                  1. 0
                    Gunnar Bittersmann
                    1. 0
                      Matthias Apsel
                      1. 0
                        Gunnar Bittersmann
                        1. 0
                          Matthias Apsel
                          1. 0

                            ROT13

                            Gunnar Bittersmann
                            • zu diesem forum
                            1. 0
                              Christian Kruse
                            2. 0
                              Tabellenkalk
                              1. 0

                                ROT13 im SelfForum

                                Auge
                              2. 0
                                Gunnar Bittersmann
                                1. 0
                                  Camping_RIDER
                                  1. 0
                                    Gunnar Bittersmann
                                    1. 0
                                      Christian Kruse
                                      1. 0
                                        Gunnar Bittersmann
                                        1. 0
                                          Christian Kruse
                                    2. 0
                                      Gunnar Bittersmann
                                      1. 0
                                        Christian Kruse
                      2. 0
                        Matthias Apsel
                        • sonstiges
                        1. 0
                          Matthias Apsel
                          1. 0
                            Gunnar Bittersmann
                            1. 0
                              Matthias Apsel
                              1. 0
                                Matthias Apsel
                                1. 0
                                  Gunnar Bittersmann
                    2. 0
                      Camping_RIDER
          2. 0
            MudGuard
            1. 0
              Der Martin
              1. 0
                Gunnar Bittersmann
                1. 0
                  Matthias Apsel
                2. 0
                  Camping_RIDER
                  1. 0
                    Matthias Apsel
                    1. 0
                      Camping_RIDER
                  2. 0
                    Gunnar Bittersmann
                    1. 0
                      Camping_RIDER
                    2. 1
                      MudGuard
                      1. 0
                        Gunnar Bittersmann
                        1. 0
                          MudGuard
                          1. 0
                            Camping_RIDER
            2. 0
              Camping_RIDER
              1. 1
                Matthias Apsel
                1. 0
                  Camping_RIDER
  2. 0
    Der Martin
    1. 0
      Camping_RIDER
    2. 0
      JürgenB
      1. 0
        Camping_RIDER
        1. 0
          JürgenB
          1. 0
            Christian Kruse
            1. 0
              Matthias Apsel
            2. 0
              JürgenB
              1. 0
                Christian Kruse
  3. 0
    Der-Dennis
    1. 0
      Camping_RIDER
      1. 0
        Der-Dennis
  4. 0
    Camping_RIDER
  5. 1

    Autorbox im Wiki

    Der-Dennis
    1. 1
      Camping_RIDER
      1. 0
        Matthias Apsel
    2. 0
      Matthias Apsel
  6. 0
    Gunnar Bittersmann
    1. 0
      Camping_RIDER
      1. 0
        Gunnar Bittersmann
        1. 0
          Camping_RIDER
          1. 0
            Gunnar Bittersmann
            1. 0
              Camping_RIDER
          2. 0
            Gunnar Bittersmann
            1. 0
              Camping_RIDER
              1. 0
                Gunnar Bittersmann
                1. 0
                  Camping_RIDER
          3. 0
            Tabellenkalk
            1. 0
              Gunnar Bittersmann
              1. 0
                Tabellenkalk
              2. 0
                Gunnar Bittersmann
                1. 0
                  Camping_RIDER
                  1. 1
                    Gunnar Bittersmann
                    • menschelei
                    1. 0
                      Camping_RIDER
                      1. 0
                        MudGuard
                        1. 0
                          Camping_RIDER
            2. 0
              Camping_RIDER
            3. 1
              Matthias Apsel