Próbuję przekonwertować liczby pobrane z UITextField, które, jak przypuszczam, są w rzeczywistości ciągami, i przekonwertować je na zmiennoprzecinkowe, aby móc je pomnożyć. Mam dwa, UITextfieldktóre są zadeklarowane w następujący sposób: @IBOutlet var wage: UITextField @IBOutlet var hour:...
Wiem, że normalnie nie można polegać na równości między wartościami typu podwójnego lub dziesiętnego, ale zastanawiam się, czy 0 to przypadek specjalny. Chociaż rozumiem niedokładności między 0,00000000000001 a 0,00000000000002, samo 0 wydaje się dość trudne do zepsucia, ponieważ to po prostu nic....
Używam standardowego modułu json w Pythonie 2.6 do serializacji listy pływaków. Jednak otrzymuję takie wyniki: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Chcę, aby liczby zmiennoprzecinkowe były...
Wykonuję pewne prace krytyczne dla wydajności w C ++ i obecnie używamy obliczeń całkowitych do problemów, które są z natury zmiennoprzecinkowe, ponieważ „jest szybsze”. Powoduje to wiele irytujących problemów i dodaje dużo irytującego kodu. Pamiętam, jak czytałem o tym, jak obliczenia...
Kiedy kompiluję kod C z moim krzyżowym łańcuchem narzędzi, linker drukuje strony z ostrzeżeniami, mówiąc, że mój plik wykonywalny używa twardych pływaków, ale moja biblioteka libc używa miękkich pływaków. Co za różnica?
Przypadek 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Kompiluje się bez żadnych ostrzeżeń i wydruków inf. OK, C ++ radzi sobie z dzieleniem przez zero ( zobacz na żywo ). Ale, Przypadek 2: #include <iostream> int...
Mam prymitywny pływak i potrzebuję jako prymitywny podwójny. Rzucenie spławika na podwójne daje mi dziwną dodatkową precyzję. Na przykład: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 System.out.println(Double.toString((double)temp)); // Prints...
Mam listę pływaków. Jeśli po prostu printto, wygląda to tak: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] Mógłbym użyć print "%.2f", co wymagałoby forpętli do przejścia przez listę, ale wtedy nie zadziałałoby dla bardziej...
To jest coś, o czym myślę od lat, ale nigdy wcześniej nie spytałem. Wiele (pseudo) generatorów liczb losowych generuje liczbę losową z zakresu od 0,0 do 1,0. Z matematycznego doublepunktu widzenia w tym zakresie są nieskończone liczby, ale jest to liczba zmiennoprzecinkowa, a zatem ma skończoną...
Powiedzmy, że wąskim gardłem mojego programu w Javie są naprawdę ciasne pętle do obliczania szeregu wektorowych iloczynów skalarnych. Tak, sprofilowałem, tak, to wąskie gardło, tak, to jest znaczące, tak, taki właśnie jest algorytm, tak, uruchomiłem Proguard, aby zoptymalizować kod bajtowy...
Próbuję skrócić liczby dziesiętne do miejsc dziesiętnych. Coś takiego: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)robi właściwie, ale zaokrągla wartość. Nie potrzebuję zaokrąglenia wartości. Mam nadzieję, że jest to możliwe w javascript.
W nagłówkach stdint.h(C99), boost / cstdint.hpp i cstdint(C ++ 0x) znajduje się między innymi typ int32_t. Czy istnieją podobne typy zmiennoprzecinkowe o stałym rozmiarze? Coś jak float32_t?
Rozwijam kilka symulacji inżynierskich. Obejmuje to zastosowanie kilku długich równań, takich jak to równanie, w celu obliczenia naprężenia w materiale podobnym do gumy: T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 * l2 * l3, -0.1e1 / 0.3e1) - l1 * l2 * l3 *...
Czy istnieje pythonowy sposób dzielenia liczby, na przykład 1234.5678na dwie części, (1234, 0.5678)tj. Część całkowitą i część dziesiętną?
Próbowałem sprawdzić, gdzie floattraci zdolność do dokładnego reprezentowania dużych liczb całkowitych. Więc napisałem ten mały fragment: int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } Ten kod wydaje się działać ze wszystkimi kompilatorami, z wyjątkiem clang....
Jakie są zalety i wady używania jednego zamiast drugiego w C ++?
Tworzę program, który z powodów, których nie trzeba wyjaśniać, wymaga konwersji typu float na ciąg znaków do policzenia za pomocą len (). Jednak str (float (x)) powoduje, że x jest zaokrąglane po konwersji na łańcuch, co odrzuca całość. Czy ktoś wie, jak to naprawić? Oto kod używany, jeśli...
Wyświetlam odległość z jednym miejscem po przecinku i chciałbym usunąć ten dziesiętny, jeśli jest równy 0 (np. 1200,0 km), jak mogę to zrobić szybko? Wyświetlam ten numer w ten sposób: let distanceFloat: Float = (currentUser.distance! as NSString).floatValue distanceLabel.text = String(format:...
Próbuję dokonać prostego podziału w Go. fmt.Println(3/10) Wypisuje 0 zamiast 0,3. To trochę dziwne. Czy mógłby ktoś powiedzieć, jaki jest tego powód? chcę wykonywać różne operacje arytmetyczne w Go. Dzięki
Jak przekonwertować liczbę zmiennoprzecinkową na ciąg znaków w C ++, określając dokładność i liczbę cyfr dziesiętnych? Na przykład: 3.14159265359 -> "3.14"