Liczba dziesiętna to nazwa naszego wspólnego systemu dziesiętnego. Może również odnosić się do wartości niecałkowitych wyrażonych z kropką dziesiętną.
Jaka jest różnica między decimal, floata doublew .NET? Kiedy ktoś użyłby jednego z
To, co chciałbym, to metoda konwersji podwójnego na ciąg znaków, który zaokrągla metodę pół-w górę - tj. Jeśli liczba dziesiętna do zaokrąglenia wynosi 5, zawsze zaokrągla w górę do następnej liczby. Jest to standardowa metoda zaokrąglania, której większość ludzi oczekuje w większości...
Chcę użyć a, Track-Baraby zmienić Formkrycie a. To jest mój kod: decimal trans = trackBar1.Value / 5000; this.Opacity = trans; Podczas kompilowania aplikacji pojawia się następujący błąd: Nie można niejawnie przekonwertować typu decimalnadouble Próbowałem, używając transi doubleale wtedy...
Wyświetlając obecnie wartość dziesiętną .ToString(), dokładność wynosi 15 miejsc po przecinku, a ponieważ używam jej do reprezentowania dolarów i centów, chcę, aby wynik był tylko 2 miejsca po przecinku. Czy używam do tego odmiany
Dlaczego poniższy kod podnosi wyjątek pokazany poniżej? BigDecimal a = new BigDecimal("1.6"); BigDecimal b = new BigDecimal("9.2"); a.divide(b) // results in the following exception. Wyjątek: java.lang.ArithmeticException: Non-terminating decimal expansion; no exact representable decimal...
Chcę to zrobić za pomocą
Aby pracować z dziesiętnymi typami danych, muszę to zrobić ze zmienną inicjalizacją: decimal aValue = 50.0M; Co oznacza część
Muszę obliczyć niektóre zmienne zmiennoprzecinkowe, a mój kolega sugeruje, żebym użył BigDecimalzamiast tego, doubleponieważ będzie to bardziej precyzyjne. Ale chcę wiedzieć, co to jest i jak najlepiej wykorzystać
Czasami mylą mnie typy danych Activerecord. Err, często. Jednym z moich wiecznych pytań jest, w danym przypadku, Czy powinienem użyć :decimallub :float? Często natrafiam na ten link, ActiveRecord:: dziesiętny vs: zmiennoprzecinkowy? , ale odpowiedzi nie są wystarczająco jasne, aby mieć...
Próbuję ustalić dziesiętny typ danych kolumny w SQL Server. Muszę być w stanie przechowywać wartości takie jak 15,5, 26,9, 24,7, 9,8 itd Przypisałem decimal(18, 0)do typu danych kolumny, ale nie pozwala mi to przechowywać tych wartości. Jak to
Mogę wymienić trzy zalety używania double(lub float) zamiast decimal: Zużywa mniej pamięci. Szybsze, ponieważ operacje matematyczne zmiennoprzecinkowe są natywnie obsługiwane przez procesory. Może reprezentować większy zakres liczb. Ale te zalety wydają się mieć zastosowanie tylko do operacji...
Mam liczby zmiennoprzecinkowe takie jak 3.2i 1.6. Muszę oddzielić liczbę na liczbę całkowitą i dziesiętną. Na przykład wartość 3.2będzie podzielona na dwie liczby, tj. 3I0.2 Uzyskanie części całkowitej jest łatwe: n = Math.floor(n); Ale mam problem z uzyskaniem części dziesiętnej. Próbowałem...
Mam w bazie danych następującą kolumnę: dziesiętny (5,2) Jak to interpretować? Zgodnie z właściwościami kolumny wyświetlanymi w SQL Server Management Studio widzę, że oznacza to: dziesiętny (precyzja numeryczna, skala numeryczna). Co dokładnie oznacza precyzja i skala? Łatwo byłoby...
Jak mogę porównać, jeśli BigDecimalwartość jest większa od
Mam Decimal('3.9')jako część obiektu i chcę zakodować to w ciągu JSON, który powinien wyglądać {'x': 3.9}. Nie dbam o precyzję po stronie klienta, więc float jest w porządku. Czy istnieje dobry sposób na serializację tego? JSONDecoder nie akceptuje obiektów dziesiętnych, a wcześniejsza konwersja...
Próbuje usunąć wszystkie litery i znaki, które nie są cyframi 0–9 i kropką. Używam, Character.isDigit()ale usuwa dziesiętny, jak mogę zachować
Eksperymentuję z tym podejściem opartym na pierwszym kodzie, ale teraz dowiaduję się, że właściwość typu System.Decimal jest odwzorowywana na kolumnę SQL typu dziesiętnego (18, 0). Jak ustawić dokładność kolumny bazy
Jak przekonwertować liczbę dziesiętną na liczbę
Próbuję zaokrąglić wartości BigDecimal w górę, do dwóch miejsc po przecinku. używam BigDecimal rounded = value.round(new MathContext(2, RoundingMode.CEILING)); logger.trace("rounded {} to {}", value, rounded); ale nie robi tego, co chcę konsekwentnie: rounded 0.819 to 0.82 rounded 1.092 to...
Jak zaokrąglić liczbę zmiennoprzecinkową (taką jak 37,777779) do dwóch miejsc po przecinku (37,78) w