Laden...

Anzahl der Nachkommastellen bei String gekürzt

Erstellt von steschu vor 10 Jahren Letzter Beitrag vor 10 Jahren 1.972 Views
steschu Themenstarter:in
24 Beiträge seit 2009
vor 10 Jahren
Anzahl der Nachkommastellen bei String gekürzt

Hallo,

Ich rechne mit double Variablen, die ich dann am Schluss als String ausgebe:


textbox1.Text = Convert.ToString(meinDoubleWert);

Mein Debugger sagt mir, dass meinDoubleWert -0.13723006195467544 ist; auf dem Monitor kommt aber als Ausgabe -0,137230061954675 - es fehlen also zwei Nachkommastellen. Selbes Ergebnis, wenn ich z.B. die String.Format-Methode oder .ToString() zum konvertieren nutze.

Weiß jemand wieso das so ist bzw. wie bekomme ich alle Nachkommastellen angezeigt?

Viele Grüße,
Stephan

1.552 Beiträge seit 2010
vor 10 Jahren

Hallo steschu,

warum brauchst du alle Kommastellen? Unter Double.ToString steht, dass standardmäßig nur 15 Stellen angegeben werden und diese bei Bedarf im format geändert werden kann.

Bitte zuerst immer in der Dokumentation nachschauen. Generell weißt diese auf spezielle Eigenschaften darauf hin.

Gruß,
Michael

Mein Blog
Meine WPF-Druckbibliothek: auf Wordpress, myCSharp

771 Beiträge seit 2009
vor 10 Jahren

Da double nur eine Genauigkeit von 15-16 Stellen hat, macht es auch keinen Sinn mehr anzuzeigen (der Rest ist eh "zufällig").

1.002 Beiträge seit 2007
vor 10 Jahren

Hallo steschu,

für die Nachwelt sei erwähnt, dass sich durch die Verwendung von decimal die Anzahl der relevanten Nachkommastellen und somit die Präzision erhöht.

m0rius

Mein Blog: blog.mariusschulz.com
Hochwertige Malerarbeiten in Magdeburg und Umgebung: M'Decor, Ihr Maler für Magdeburg

5.658 Beiträge seit 2006
vor 10 Jahren

Hallo allerseits,

bevor wir den Beitrag der Nachwelt überlassen, hier noch der Hinweis auf den Artikel mit der Begründung: [FAQ] Double und Float: Fehler beim Vergleich und Rundungsfehler.

Christian

Weeks of programming can save you hours of planning