Często w moim doświadczeniu programistycznym muszę decydować, czy powinienem używać liczb zmiennoprzecinkowych, czy podwójnych dla moich liczb rzeczywistych. Czasami wybieram float, czasem podwójny, ale tak naprawdę wydaje się to bardziej subiektywne. Gdybym miał stanąć w obronie mojej decyzji,...
W każdym miejscu, w którym spojrzałem, jest napisane, że doublejest lepsze niż floatpod każdym względem. floatzostał przestarzały doublew Javie, więc dlaczego jest nadal używany? Dużo programuję w Libgdx, a one zmuszają cię do korzystania float(deltaTime itp.), Ale wydaje mi się, że doublełatwiej...
Jestem zdezorientowany, dlaczego dbamy o różne reprezentacje dla dodatniego i ujemnego zera. Z niejasnych wspomnień czytam, że posiadanie ujemnej reprezentacji zera jest niezwykle ważne w programowaniu, które obejmuje liczby zespolone. Nigdy nie miałem okazji pisać kodu zawierającego liczby...
Wiem, że arytmetyka zmiennoprzecinkowa ma problemy z precyzją. Zwykle pokonuję je, przechodząc do stałej liczby dziesiętnej lub po prostu zaniedbując błąd. Nie wiem jednak, jakie są przyczyny tej niedokładności. Dlaczego jest tak wiele problemów z zaokrąglaniem liczb...
Czy istnieje alternatywa dla bitów jako najmniejszej jednostki danych? Coś, co nie będzie tylko 0 lub 1, ale faktycznie zawiera wiele możliwych stanów pomiędzy? Czy nie byłoby bardziej naturalne przechowywanie takich
C#ma decimaltyp używany dla liczb, które wymagają dokładnej reprezentacji w bazie 10. Na przykład, 0.1nie może być reprezentowany w bazie 2 (np. floati double) i zawsze będzie przybliżeniem, gdy jest przechowywany w zmiennych tego typu. Zastanawiałem się, czy odwrócony fakt był również możliwy....
Podczas badania dokładności liczb zmiennoprzecinkowych widziałem w kilku miejscach zdanie podobne do „liczba zmiennoprzecinkowa i liczba podwójna są ( zaprojektowane / wykorzystywane często ) w obliczeniach inżynierskich i naukowych ” Z mojego zrozumienia wynika, że siła liczb...
Na przykład chcę wyświetlić listę przycisków od 0,0,5, ... 5, która przeskakuje za każde 0,5. Używam do tego pętli for i mam inny kolor pod przyciskiem STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){...
Oglądałem http://www.joelonsoftware.com/items/2011/06/27.html i śmiałem się z żartu Jona Skeeta o tym, że 0.3 nie jest 0.3. Osobiście nigdy nie miałem problemów z liczbami zmiennoprzecinkowymi / dziesiętnymi / podwójnymi, ale pamiętam, że nauczyłem się 6502 bardzo wcześnie i nigdy nie potrzebowałem...
Czytałem artykuł z firmy Microsoft dotyczącą Poszerzenie konwersji i Option Strict On , gdy dostałem się do części Następujące konwersje mogą stracić precyzję: Integer to Single Długi do pojedynczego lub podwójnego Dziesiętny na pojedynczy lub podwójny Jednak te konwersje nie...
To nie jest duplikat pytania, gdy czytam poprzednie pytanie. Czy ktoś może mi pomóc w zrozumieniu how float values are stored in the memory. Mam wątpliwości, czy tutaj wartości zmiennoprzecinkowe zawierają „ .'( for example 3.45) jak '.'będą reprezentowane w pamięci? Czy ktoś może mi wyjaśnić za...
Tworząc aplikację, która zajmuje się licznymi obliczeniami matematycznymi, napotkałem problem polegający na tym, że niektóre liczby powodują błędy zaokrąglania. Rozumiem, że zmiennoprzecinkowe nie jest dokładne , ale problem polega na tym , jak postępować z dokładnymi liczbami, aby mieć pewność,...
Powiedzmy, że mamy następującą klasę Python (problem istnieje w Javie tak samo z equalsi hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees gdzie degreesjest temperatura w kelwinach jako liczba zmiennoprzecinkowa. Teraz chciałbym wdrożyć testy równości i mieszanie...
O ile pamiętam siebie programowania, nauczono mnie, aby nie porównywać liczb zmiennoprzecinkowych dla równości. Teraz, czytając Programowanie w Lua o numbertypie Lua , znalazłem: Typ liczby reprezentuje liczby rzeczywiste (zmiennoprzecinkowe podwójnej precyzji). Lua nie ma typu liczby...
Przeglądając implementację funkcji innego programisty w celu obliczenia CDF o rozkładzie normalnym , zasugerowałem, aby albo zastąpić całą implementację wbudowanymi funkcjami Pythona, albo użyć SciPy, wspólnej biblioteki naukowej. Inny programista zauważył, że ani math.erfc()nie...
Obecnie czytam „Koniec błędu - Unum Computing” Johna Gustafsona ( Youtube ). Nadal nie jestem pewien, w jaki sposób sprawy obsługiwane w IEEE przez ujemnie podpisane zero są obsługiwane przez unumy. Po pierwsze, unum pozwala na reprezentowanie pewnych dokładnych wartości (podobnie jak...
Porównując wartości zmiennoprzecinkowe dla równości, istnieją dwa różne podejścia: NaNnie są sobie równe, co odpowiada specyfikacji IEEE 754 . NaNbędąc równym sobie, co zapewnia matematyczną właściwość Refleksyjności, która jest niezbędna do zdefiniowania relacji Równoważności Wbudowane typy...
Powiedziano mi, że większość współczesnych komputerów stosuje ten sam standard zmiennoprzecinkowy. Czy to oznacza, że wszystkie otrzymają tę samą odpowiedź zmiennoprzecinkową dla danej operacji matematycznej, jeśli dane wejściowe są takie same? Pytam, ponieważ pracuję nad stworzeniem gry RTS w...