Pytania dotyczące dokładności numerycznej w programowaniu. Aby uzyskać dokładność klasyfikacji, użyj znacznika [precyzyjne przywracanie].
Chcę azostać zaokrąglony do 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Ta roundfunkcja nie działa w oczekiwany
Czytałem o różnicy między podwójną precyzją a pojedynczą precyzją. Jednak w większości przypadków floati doublewydają się być wymienne, tj. Użycie jednego lub drugiego nie wydaje się wpływać na wyniki. Czy to naprawdę tak jest? Kiedy zmiennoprzecinkowe i podwajalne są wymienne? Jakie są między nimi...
Dokładność vs. Precyzja Chciałbym wiedzieć, czy powinienem używać System.currentTimeMillis () czy System.nanoTime () podczas aktualizacji pozycji mojego obiektu w mojej grze? Ich zmiana ruchu jest wprost proporcjonalna do czasu, jaki upłynął od ostatniego połączenia i chcę być tak precyzyjny, jak...
Więc otrzymałem odpowiedź na moje ostatnie pytanie (nie wiem, dlaczego o tym nie pomyślałem). Drukowałem doubleużycie, coutktóre zaokrągliło się, gdy się nie spodziewałem. Jak mogę sprawić, by coutwydruk był w doublepełni
Chciałem wyświetlić liczbę z dokładnością do 2 miejsc po przecinku. Myślałem, że mogę użyć toPrecision(2)w JavaScript. Jednak jeśli numer jest 0.05, dostaję 0.0500. Wolałbym, żeby pozostało tak samo. Zobacz to na JSbin . Jak najlepiej to zrobić? Mogę pomyśleć o kodowaniu kilku rozwiązań, ale...
Mam w bazie danych następującą kolumnę: dziesiętny (5,2) Jak to interpretować? Zgodnie z właściwościami kolumny wyświetlanymi w SQL Server Management Studio widzę, że oznacza to: dziesiętny (precyzja numeryczna, skala numeryczna). Co dokładnie oznacza precyzja i skala? Łatwo byłoby...
Jak dokładnie skonstruować znacznik czasu rzeczywistego z dokładnością do milisekund? Potrzebuję czegoś takiego jak 16.4.2013 9: 48: 00: 123. czy to możliwe? Mam aplikację, w której próbkuję wartości 10 razy na sekundę i muszę pokazać je na
Dlaczego niektóre liczby tracą dokładność, gdy są przechowywane jako liczby zmiennoprzecinkowe? Na przykład liczbę dziesiętną 9.2można wyrazić dokładnie jako stosunek dwóch liczb całkowitych dziesiętnych ( 92/10), z których oba można wyrazić dokładnie w postaci binarnej ( 0b1011100/0b1010). Jednak...
Próbuję dostać sumę 1 + 2 + ... + 1000000000, ale jestem coraz śmieszne wyników w PHP i node.js . PHP $sum = 0; for($i = 0; $i <= 1000000000 ; $i++) { $sum += $i; } printf("%s", number_format($sum, 0, "", "")); // 500000000067108992 Node.js var sum = 0; for (i = 0; i <= 1000000000; i++)...
Ostatnio musiałem przekształcić tekst podwójny w szereg, a potem go odzyskać. Wartość wydaje się nie być równoważna: double d1 = 0.84551240822557006; string s = d1.ToString("R"); double d2 = double.Parse(s); bool s1 = d1 == d2; // -> s1 is False Ale zgodnie z MSDN: Standardowe ciągi formatu...
Jaka jest różnica między operacją zmiennoprzecinkową o pojedynczej precyzji a operacją zmiennoprzecinkową o podwójnej precyzji? Szczególnie interesują mnie kwestie praktyczne związane z konsolami do gier wideo. Na przykład, czy Nintendo 64 ma procesor 64-bitowy, a jeśli tak, czy to znaczy, że jest...
Nie, to nie jest kolejne pytanie „Dlaczego jest (1 / 3.0) * 3! = 1” . Ostatnio dużo czytałem o zmiennoprzecinkowych; a konkretnie, w jaki sposób te same obliczenia mogą dać różne wyniki w przypadku różnych architektur lub ustawień optymalizacji. Jest to problem z grami wideo, które przechowują...
Wiem, że 0.1liczby dziesiętnej nie można dokładnie przedstawić za pomocą skończonej liczby binarnej ( wyjaśnienie ), więc double n = 0.1straci pewną precyzję i nie będzie dokładnie 0.1. Z drugiej strony 0.5może być reprezentowany właśnie dlatego, że jest 0.5 = 1/2 = 0.1b. Powiedziawszy, że jest...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Powyższy kod drukuje: 11.399999999999 Jak mogę to po prostu wydrukować (lub móc go używać jako)
Robię program, w którym potrzebuję mierzyć czas w milisekundach. Mam na myśli liczbę, która nigdy nie jest sobie równa i jest zawsze o 1000 liczb większa niż przed sekundą. Próbowałem przekonwertować DateTime.Nowna a TimeSpani uzyskać TotalMillisecondsz tego ... ale słyszałem, że nie jest to...
Używając tylko ANSI C, czy istnieje sposób mierzenia czasu z dokładnością do milisekund lub większą? Przeglądałem czas.h, ale znalazłem tylko funkcje drugiej
Biorąc pod uwagę wartość podwójną, chcę zaokrąglić ją do określonej liczby dokładnych punktów po przecinku , podobnie jak w funkcji round () w PHP. Najbliższą rzeczą, jaką mogę znaleźć w dokumentach Dart, jest double.toStringAsPrecision (), ale nie jest to do końca to, czego potrzebuję,...
Jestem nowy w JavaScript i właśnie odkryłem toFixed()i toPrecision()zaokrąglałem liczby. Jednak nie mogę dowiedzieć się, jaka jest różnica między nimi. Jaka jest różnica między number.toFixed()i
W R jest opcja uzyskania kontroli nad wyświetlaniem cyfr. Na przykład: options(digits=10) ma podawać wyniki obliczeń w 10 cyfrach do końca sesji R. W pliku pomocy R, definicja parametru cyfry jest następująca: cyfry: kontroluje liczbę cyfr do wydrukowania podczas drukowania wartości...
To było pytanie, które zadałem mi na ostatnim wywiadzie i chcę wiedzieć (tak naprawdę nie pamiętam teorii analizy numerycznej, więc proszę o pomoc :) Jeśli mamy jakąś funkcję, która gromadzi liczby zmiennoprzecinkowe: std::accumulate(v.begin(), v.end(), 0.0); vjest std::vector<float>na...