Czy istnieje printfspecyfikator szerokości, który można zastosować do specyfikatora zmiennoprzecinkowego, który automatycznie sformatowałby dane wyjściowe do wymaganej liczby cyfr znaczących, tak że podczas ponownego skanowania łańcucha uzyskiwana jest oryginalna wartość zmiennoprzecinkowa? Na...
Zastanawiałem się, czy istnieje sposób na utworzenie znacznika czasu w języku c # z datetime? Potrzebuję wartości precyzji milisekundy, która działa również w Compact Framework (mówiąc, że ponieważ DateTime.ToBinary () nie istnieje w CF). Mój problem polega na tym, że chcę przechowywać tę...
Wiem, że normalnie nie można polegać na równości między wartościami typu podwójnego lub dziesiętnego, ale zastanawiam się, czy 0 to przypadek specjalny. Chociaż rozumiem niedokładności między 0,00000000000001 a 0,00000000000002, samo 0 wydaje się dość trudne do zepsucia, ponieważ to po prostu nic....
Właśnie napotkałem nieoczekiwane zachowanie z DateTime.UtcNow podczas wykonywania niektórych testów jednostkowych. Wydaje się, że gdy wywołujesz DateTime.Now/UtcNow w krótkich odstępach czasu, wydaje się, że zwraca tę samą wartość przez dłuższy niż oczekiwany przedział czasu, zamiast...
To jest coś, o czym myślę od lat, ale nigdy wcześniej nie spytałem. Wiele (pseudo) generatorów liczb losowych generuje liczbę losową z zakresu od 0,0 do 1,0. Z matematycznego doublepunktu widzenia w tym zakresie są nieskończone liczby, ale jest to liczba zmiennoprzecinkowa, a zatem ma skończoną...
To nie jest pytanie, ponieważ należy bardziej uważać. Zaktualizowałem aplikację, która używa json_encode()PHP7.1.1 i zauważyłem problem ze zmienianiem liczb zmiennoprzecinkowych, aby czasami wydłużały 17 cyfr. Zgodnie z dokumentacją, PHP 7.1.x zaczęło używać serialize_precisionzamiast precyzji...
Jakie są zalety i wady używania jednego zamiast drugiego w C ++?
Zamknięte . To pytanie musi być bardziej skoncentrowane . Obecnie nie przyjmuje odpowiedzi. Chcesz poprawić to pytanie? Zaktualizuj pytanie, aby skupiało się tylko na jednym problemie, edytując ten post . Zamknięte 4 miesiące temu . Popraw to...
Niektórzy klienci otrzymują dziwne rachunki. Udało mi się wyodrębnić podstawowy problem: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 * FLOOR(1.0 * CAST(199.96 AS DECIMAL(19, 4)))) -- 199.96 SELECT 199.96 -...
Często kończę w sytuacjach, w których konieczne jest sprawdzenie, czy uzyskana różnica jest wyższa niż precyzja maszyny. Wygląda na to, w tym celu R ma zmienną poręczny: .Machine$double.eps. Jednak po przejściu do kodu źródłowego R w celu uzyskania wskazówek dotyczących korzystania z tej wartości...
Załóżmy, że bierzemy np.dotdwie 'float32'tablice 2D: res = np.dot(a, b) # see CASE 1 print(list(res[0])) # list shows more digits [-0.90448684, -1.1708503, 0.907136, 3.5594249, 1.1374011, -1.3826287] Liczby. Z wyjątkiem, że mogą zmienić: PRZYPADEK 1 : plastereka np.random.seed(1) a =...
Mam dość długą listę liczb zmiennoprzecinkowych dodatnich ( std::vector<float>rozmiar ~ 1000). Liczby są sortowane według malejącej kolejności. Jeśli sumuję je zgodnie z kolejnością: for (auto v : vec) { sum += v; } Myślę, że mogę mieć problem ze stabilnością numeryczną, ponieważ blisko...