Pytania oznaczone «numerical-analysis»

13
Bezpieczne podsumowanie przelewu

Załóżmy, że podano mi liczb całkowitych o stałej szerokości (tzn. Mieszczą się one w rejestrze szerokości ), tak że ich suma również mieści się w rejestrze szerokości .w a 1 , a 2 , … a n a 1 + a 2 + ⋯ + a n = S wnnnwwwa1,a2,…ana1,a2,…ana_1, a_2, \dots a_na1+a2+⋯+an=Sa1+a2+⋯+an=Sa_1 + a_2 + \dots +...

13
Zaokrąglanie zmiennoprzecinkowe

Czy liczba zmiennoprzecinkowa IEEE-754 <1 (tj. Generowana za pomocą generatora liczb losowych, który generuje liczbę> = 0,0 i <1,0) może być kiedykolwiek pomnożona przez jakąś liczbę całkowitą (w postaci zmiennoprzecinkowej), aby uzyskać liczbę równą lub większą niż ta liczba całkowita z...

11
Wnioskowanie o rodzajach uściślenia

W pracy miałem za zadanie wnioskować o pewnych typach informacji o dynamicznym języku. Przepisuję sekwencje instrukcji na letwyrażenia zagnieżdżone , tak jak poniżej: return x; Z => x var x; Z => let x = undefined in Z x = y; Z => let x = y in Z if x then T else F; Z => if x then { T;...