TU Wien:Technische Grundlagen der Informatik VU (Kastner)/Kapitel Numerik

Aus VoWi
Zur Navigation springen Zur Suche springen

Kombinatorik = Methoden zur Lösung mathematischer Problemstellungen auf Computern

Festpunktdarstellung

[Bearbeiten | Quelltext bearbeiten]
  • v Vorzeichen (0 = positiv, 1 = negativ)
  • g Vorkommastellen
  • n Nachkommastellen

Entspricht Skalierung der ganzen Zahl um Faktor 2−n.

  • nur für rationale Zahlen (ℚ)
  • manche einfache rationale Zahlen können nicht genau dargestellt werden, z.B. 1/3 oder 1/10 binär
  • Wenn das Ergebnis nicht darstellbar ist muss gerundet werden.

Gleitpunktdarstellung

[Bearbeiten | Quelltext bearbeiten]

Exponentialschreibweise

  • m∗be
    • m ... Mantisse
    • b ... Basis
    • e ... Exponent
  • Normalisierung: nur eine 1 vor dem Komma
  • Wir gehen davon aus, dass:
    • Exponent ganzzahlig
    • Basis gerade und ≥2
  • Bei Addition und Subtraktion weniger handlich
  • Bei Multiplikation und Division praktisch

Darstellung

  • Format
    • v Vorzeichen (0 = positiv, 1 = negativ)
    • n Exponentenstellen
    • p Mantissenstellen

Parameter: FF(b,p,emin,emax,denorm)

  • b ... Basis (base, radix) (b≥2)
  • p ... Mantissenlänge (precision) (p≥2)
  • emin ... kleinster Exponent
  • emax ... größter Exponent
  • denorm ... enthält denormalisierte Zahlen? (true/false)
  • normalisierte Zahl: m0=1 und wird weggelassen (implizites erstes Bit)
  • denormalisierte Zahl
    • Im IEEE 754 durch emin−1 im Exponenten kodiert
    • erstes implizites Bit ist 0
    • Wert des Exponent ist emin

Gesamtlänge N=1+n+p

Exponent ist in Exzessdarstellung.

Format Parameter
Single 𝔽𝔽(2,24,−126,+127,true)
Double 𝔽𝔽(2,53,−1022,+1023,true)

Für Single und Double ist der Exzess emax.

Exponent NkSt. der Mantisse Wert
emax+1 ≠0 NaN
emax+1 =0 (−1)v∗∞
emin−1 ≠0 (−1)v∗0.f∗2emin
emin−1 =0 (−1)v∗0
  • nicht assoziativ / distributiv
  • aber kommutativ

converter calculator

  • truncate, min, max
  • Eigenschaften
    • Projektivität
    • Monotonie

Optimale Rundung

[Bearbeiten | Quelltext bearbeiten]

(round to nearest)

Guard, Round und Sticky bit

  1. Wenn Guard Null ist runde nicht.
  2. Wenn Guard Eins ist:
    1. und Round und/oder Sticky gesetzt sind ⇒+=1
    2. Round und Sticky sind nicht gesetzt:
      • round to even lsb=1⇒+=1
      • round away from zero ⇒+=1
  • Addition
    1. Exponenten angleichen (kleineren an den größeren)
    2. Mantissen addieren
    3. Normalisieren
    4. Runden