Wiem, że arytmetyka zmiennoprzecinkowa ma problemy z precyzją. Zwykle pokonuję je, przechodząc do stałej liczby dziesiętnej lub po prostu zaniedbując błąd. Nie wiem jednak, jakie są przyczyny tej niedokładności. Dlaczego jest tak wiele problemów z zaokrąglaniem liczb...
Języki programowania, takie jak Scheme (R5RS) i Python ( patrz to pytanie ), idą w kierunku najbliższej parzystej liczby całkowitej, gdy wartość jest dokładnie pomiędzy otaczającymi liczbami całkowitymi. Jakie jest tego uzasadnienie? Czy istnieje pomysł matematyczny, który ułatwia uzasadnienie...
Podczas badania dokładności liczb zmiennoprzecinkowych widziałem w kilku miejscach zdanie podobne do „liczba zmiennoprzecinkowa i liczba podwójna są ( zaprojektowane / wykorzystywane często ) w obliczeniach inżynierskich i naukowych ” Z mojego zrozumienia wynika, że siła liczb...
Komputery mają problemy z przechowywaniem liczb ułamkowych, w których mianownik jest czymś innym niż rozwiązaniem 2 ^ x. Jest tak, ponieważ pierwsza cyfra po przecinku jest warta 1/2, druga 1/4 (lub 1 / (2 ^ 1) i 1 / (2 ^ 2)) itp. Po co radzić sobie z różnego rodzaju błędami zaokrąglania, gdy...
Tworząc aplikację, która zajmuje się licznymi obliczeniami matematycznymi, napotkałem problem polegający na tym, że niektóre liczby powodują błędy zaokrąglania. Rozumiem, że zmiennoprzecinkowe nie jest dokładne , ale problem polega na tym , jak postępować z dokładnymi liczbami, aby mieć pewność,...
Próbuję myśleć o tym, jak bym zrobił obliczenia na bardzo dużych liczbach (do nieskończoności - intergeruje brak liczb zmiennoprzecinkowych), jeśli konstrukcja języka nie jest w stanie obsłużyć liczb większych niż pewna wartość. Jestem pewien, że nie jestem pierwszym ani ostatnim, który zadałby...
W numeryce bardzo ważna jest umiejętność identyfikowania niestabilnych schematów i poprawy ich stabilności. Jak rozpoznać niestabilne obliczenia zmiennoprzecinkowe? Pracuję nad bardzo złożoną symulacją, w której współdziała wiele schematów numerycznych i szukam metody pozwalającej zidentyfikować...
Przeglądając implementację funkcji innego programisty w celu obliczenia CDF o rozkładzie normalnym , zasugerowałem, aby albo zastąpić całą implementację wbudowanymi funkcjami Pythona, albo użyć SciPy, wspólnej biblioteki naukowej. Inny programista zauważył, że ani math.erfc()nie...