Kapitel 11 Sprechweisen der Statistik

Abschnitt 11.1 Begriffe und Sprechweisen

11.1.3 Bemerkungen zu den Rundungsvorgängen

Wie die folgenden Überlegungen und Beispiele zeigen, muss man beim Rechnen mit gerundeten Ergebnissen sehr kritisch sein. Man betrachte die Menge $M=ℝ{}_{\ge 0}$ aller nicht negativen rellen Zahlen und führe auf der Menge $M$ die Multiplikation

${\displaystyle M\times M\mathrm{\hspace{0.5em}\hspace{0.5em}}\to M\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{\hspace{0.5em}\hspace{0.5em}},\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{\hspace{0.5em}\hspace{0.5em}}(a,b)\mathrm{\hspace{0.5em}\hspace{0.5em}}⟼\mathrm{\hspace{0.5em}\hspace{0.5em}}a\odot b}$

über die Berechnungsvorschrift

${\displaystyle a\odot b\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\frac{1}{{10}^2}·\text{round}({10}^2·a·b)\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\frac{1}{{10}^2}·\lfloor {10}^2·a·b+\frac{1}{2}\rfloor }$

ein. Anschaulich bedeutet dies, dass das Produkt $a\odot b$ berechnet wird, indem zunächst das gewöhnliche Produnkt $a·b$ berechnet wird und das Ergebnis dann auf zwei Nachkommastellen mathematisch gerundet wird.  
Das Assoziativgesetz der Multiplikation gilt nicht mehr für die gerundete Multiplikation: Für die Zahlen $a=\mathrm{2,11}$, $b=\mathrm{3,35}$ und $c=\mathrm{2,61}$ gilt beispielsweise

${\displaystyle a\odot b\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{2,11}\odot \mathrm{3,35}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{7,07}\mathrm{\hspace{0.5em}\hspace{0.5em}}\text{und}\mathrm{\hspace{0.5em}\hspace{0.5em}}(a\odot b)\odot c\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{7,07}\odot \mathrm{2,61}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{18,45}\hspace{0.5em}.}$

Setzt man die Klammern um, so erhält man aber

${\displaystyle b\odot c\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{3,35}\odot \mathrm{2,61}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{8,74}\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{\hspace{0.5em}\hspace{0.5em}}\text{und}\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{\hspace{0.5em}\hspace{0.5em}}a\odot (b\odot c)\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{2,11}\odot \mathrm{8,74}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{18,44}\hspace{0.5em}.}$



Ebenso können falsche Ergebnisse durch ungeschicktes Runden entstehen: Dazu seien $a=\mathrm{4,98}$ und $b=\mathrm{1,001}$. Dann gilt

${\displaystyle a·b\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98}·\mathrm{1,001}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98498}\mathrm{\hspace{0.5em}\hspace{0.5em}}\text{also}\mathrm{\hspace{0.5em}\hspace{0.5em}}a\odot b\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98}\odot \mathrm{1,001}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}a\hspace{0.5em}.}$

Weiter gilt

${\displaystyle a·b^{1000}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98}·1,{001}^{1000}\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}a·\underset{1000\mathrm{\hspace{0.5em}\hspace{0.5em}}\text{Faktoren}}{\underbrace{b·\dots ·b}}\approx \mathrm{13,53028118}\hspace{0.5em}.}$

Rundet man jetzt nach jeder durchgeführten Multiplikation auf $2$ Nachkommastellen, so erhält man wegen $a\odot b=a$ das völlig falsche Resultat

${\displaystyle (\dots ((a\odot \underset{1000\mathrm{\hspace{0.5em}\hspace{0.5em}}\text{Faktoren}}{\underbrace{b)\odot b)\dots \odot b}})\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}a\mathrm{\hspace{0.5em}\hspace{0.5em}}=\mathrm{\hspace{0.5em}\hspace{0.5em}}\mathrm{4,98}\hspace{0.5em}.}$