Czytałem o różnicy między podwójną precyzją a pojedynczą precyzją. Jednak w większości przypadków floati doublewydają się być wymienne, tj. Użycie jednego lub drugiego nie wydaje się wpływać na wyniki. Czy to naprawdę tak jest? Kiedy zmiennoprzecinkowe i podwajalne są wymienne? Jakie są między nimi...
randrange(start, stop)przyjmuje tylko argumenty całkowite. Jak więc uzyskać losową liczbę między dwiema wartościami
Mam następujący kod. Chciałbym mieć taką, aby jeśli price_result jest liczbą całkowitą, powiedzmy 10, to chciałbym dodać dwa miejsca po przecinku. Czyli 10 to 10.00. Lub jeśli równa się 10,6, to 10,60. Nie jestem pewien, jak to zrobić. price_result =
Znam UIKitzastosowania z CGFloatpowodu niezależnego od rozdzielczości układu współrzędnych. Ale za każdym razem, gdy chcemy sprawdzić, czy na przykład frame.origin.xjest 0to sprawia, że czuję się chory: if (theView.frame.origin.x == 0) { // do important operation } Nie jest CGFloatpodatny na...
Użyłem następującego wiersza, aby przekonwertować zmiennoprzecinkowe na int, ale nie jest tak dokładne, jak bym chciał: float a=8.61f; int b; b=(int)a; Wynik jest następujący: 8(Powinno być 9) Kiedy a = -7.65fwynikiem jest: -7(Powinno być -8) Jak najlepiej to
Więc otrzymałem odpowiedź na moje ostatnie pytanie (nie wiem, dlaczego o tym nie pomyślałem). Drukowałem doubleużycie, coutktóre zaokrągliło się, gdy się nie spodziewałem. Jak mogę sprawić, by coutwydruk był w doublepełni
Powszechnie wiadomo, że porównywanie liczb zmiennoprzecinkowych w celu zapewnienia równości jest trochę kłopotliwe z powodu problemów z zaokrąglaniem i precyzją. Na przykład: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Jaki jest zalecany sposób...
Chciałem wyświetlić liczbę z dokładnością do 2 miejsc po przecinku. Myślałem, że mogę użyć toPrecision(2)w JavaScript. Jednak jeśli numer jest 0.05, dostaję 0.0500. Wolałbym, żeby pozostało tak samo. Zobacz to na JSbin . Jak najlepiej to zrobić? Mogę pomyśleć o kodowaniu kilku rozwiązań, ale...
Ciągle widzę tę stałą wyskakującą w różnych plikach nagłówka grafiki 0.0039215689 Może to ma coś wspólnego z kolorem? Oto pierwsze trafienie w Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16, 8) * 0.0039215689f;...
Muszę obliczyć niektóre zmienne zmiennoprzecinkowe, a mój kolega sugeruje, żebym użył BigDecimalzamiast tego, doubleponieważ będzie to bardziej precyzyjne. Ale chcę wiedzieć, co to jest i jak najlepiej wykorzystać
Powszechnie wiadomo, że NaN rozmnażają się w arytmetyce, ale nie mogłem znaleźć żadnych demonstracji, więc napisałem mały test: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN;...
Mam wartość 25.00w float, ale kiedy drukuję to na ekranie, jest 25.0000000. Jak mogę wyświetlić wartość tylko z dwoma miejscami po
Dlaczego zmiana kolejności sum zwraca inny wynik? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Zarówno Java, jak i JavaScript zwracają te same wyniki. Rozumiem, że ze względu na sposób, w jaki liczby zmiennoprzecinkowe są reprezentowane w postaci binarnej, niektórych...
Porównując liczby zmiennoprzecinkowe z liczbami całkowitymi, ocena niektórych par zajmuje znacznie więcej czasu niż innych wartości o podobnej wielkości. Na przykład: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million...
Wysłano do SO kilka pytań dotyczących reprezentacji zmiennoprzecinkowej. Na przykład liczba dziesiętna 0,1 nie ma dokładnej reprezentacji binarnej, więc użycie operatora == w celu porównania jej z inną liczbą zmiennoprzecinkową jest niebezpieczne. Rozumiem zasady reprezentacji...
Czasami mylą mnie typy danych Activerecord. Err, często. Jednym z moich wiecznych pytań jest, w danym przypadku, Czy powinienem użyć :decimallub :float? Często natrafiam na ten link, ActiveRecord:: dziesiętny vs: zmiennoprzecinkowy? , ale odpowiedzi nie są wystarczająco jasne, aby mieć...
Poniższy kod jest oczywiście nieprawidłowy. Jaki jest problem? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Jak wygenerować losowe zmiennoprzecinkowe w C ++? Myślałem, że mógłbym wziąć liczbę całkowitą i podzielić ją przez coś, czy to
Dlaczego porównania wartości NaN zachowują się inaczej niż wszystkie inne wartości? Oznacza to, że wszystkie porównania z operatorami ==, <=,> =, <,> gdzie jedna lub obie wartości to NaN, zwraca false, w przeciwieństwie do zachowania wszystkich innych wartości. Podejrzewam, że...
Mogę wymienić trzy zalety używania double(lub float) zamiast decimal: Zużywa mniej pamięci. Szybsze, ponieważ operacje matematyczne zmiennoprzecinkowe są natywnie obsługiwane przez procesory. Może reprezentować większy zakres liczb. Ale te zalety wydają się mieć zastosowanie tylko do operacji...