TU Wien:Technische Grundlagen der Informatik VU (Kastner)/Kapitel Numerik

Aus VoWi
Zur Navigation springen Zur Suche springen

Kombinatorik = Methoden zur Lösung mathematischer Problemstellungen auf Computern

Festpunktdarstellung[Bearbeiten | Quelltext bearbeiten]

  • Vorzeichen (0 = positiv, 1 = negativ)
  • Vorkommastellen
  • Nachkommastellen

Entspricht Skalierung der ganzen Zahl um Faktor .

  • nur für rationale Zahlen ()
  • manche einfache rationale Zahlen können nicht genau dargestellt werden, z.B. oder binär
  • Wenn das Ergebnis nicht darstellbar ist muss gerundet werden.

Gleitpunktdarstellung[Bearbeiten | Quelltext bearbeiten]

Exponentialschreibweise

    • ... Mantisse
    • ... Basis
    • ... Exponent
  • Normalisierung: nur eine 1 vor dem Komma
  • Wir gehen davon aus, dass:
    • Exponent ganzzahlig
    • Basis gerade und
  • Bei Addition und Subtraktion weniger handlich
  • Bei Multiplikation und Division praktisch

Darstellung

  • Format
    • Vorzeichen (0 = positiv, 1 = negativ)
    • Exponentenstellen
    • Mantissenstellen

Parameter:

  • ... Basis (base, radix) ()
  • ... Mantissenlänge (precision) ()
  • ... kleinster Exponent
  • ... größter Exponent
  • ... enthält denormalisierte Zahlen? (true/false)
  • normalisierte Zahl: und wird weggelassen (implizites erstes Bit)
  • denormalisierte Zahl
    • Im IEEE 754 durch im Exponenten kodiert
    • erstes implizites Bit ist 0
    • Wert des Exponent ist

Gesamtlänge

IEEE 754[Bearbeiten | Quelltext bearbeiten]

Exponent ist in Exzessdarstellung.

Format Parameter
Single
Double

Für Single und Double ist der Exzess .

Exponent NkSt. der Mantisse Wert
NaN
  • nicht assoziativ / distributiv
  • aber kommutativ

converter calculator

Runden[Bearbeiten | Quelltext bearbeiten]

  • truncate, min, max
  • Eigenschaften
    • Projektivität
    • Monotonie

Optimale Rundung[Bearbeiten | Quelltext bearbeiten]

(round to nearest)

Guard, Round und Sticky bit

  1. Wenn Guard Null ist runde nicht.
  2. Wenn Guard Eins ist:
    1. und Round und/oder Sticky gesetzt sind
    2. Round und Sticky sind nicht gesetzt:
      • round to even
      • round away from zero

Arithmetik[Bearbeiten | Quelltext bearbeiten]

  • Addition
    1. Exponenten angleichen (kleineren an den größeren)
    2. Mantissen addieren
    3. Normalisieren
    4. Runden