ieee-754- все статьи тега
Float и double datatype в Java
Тип данных float-это 32-разрядная IEEE 754 с плавающей запятой одинарной точности, а тип данных double-64-разрядная IEEE 754 с плавающей запятой двойной точности. Что это значит? И когда я должен использовать float вместо double или наоборот? ...
Какое первое целое число, которое IEEE 754 float не может точно представить?
для ясности, если я использую язык, который реализует iee 754 плавает, и я объявляю: float f0 = 0.f; float f1 = 1.f; ...а потом распечатайте их обратно, я получу 0.0000 и 1.0000 - точно. но IEEE 754 не способен представлять все числа вдоль реальной линии. Близко к нулю, "промежутки" малы; по мере удаления, промежутки становятся больше. Итак, мой вопрос: для IEEE 754 float, который является первым (ближайшим к нулю) целым числом, которое не может быть точно представлены? меня сейчас волнуют ...
Какой диапазон чисел может быть представлен в 16 -, 32-и 64-разрядных системах IEEE-754?
Я немного знаю о том, как представлены числа с плавающей запятой, но, боюсь, недостаточно. общий вопрос: для заданной точности (для моих целей, количество точных десятичных знаков в базе 10), какой диапазон чисел может быть представлен для 16-, 32 - и 64-разрядных систем IEEE-754? в частности, меня интересует только диапазон 16-битных и 32-битных чисел с точностью до + / -0.5 (те места) или +/- 0.0005 (тысячного). ...
Форматирование удваивается для вывода в C#
запуск быстрого эксперимента, связанного с двойное умножение сломано в .NET? и прочитав пару статей о форматировании строк C#, я подумал, что это: { double i = 10 * 0.69; Console.WriteLine(i); Console.WriteLine(String.Format(" {0:F20}", i)); Console.WriteLine(String.Format("+ {0:F20}", 6.9 - i)); Console.WriteLine(String.Format("= {0:F20}", 6.9)); } будет c# эквивалент этого кода C: { double i = 10 * 0.69; printf ( "%fn", i ); printf ( " %.20fn", i ); ...
В чем разница между quiet NaN и signaling NaN?
Я читал о плавающей точке, и я понимаю, что NaN может быть результатом операций. но я не могу понять, что именно это за понятия. В чем разница? какой из них может быть создан во время программирования на C++? Как программист, могу ли я написать программу, вызывающую sNaN? ...
Все целочисленные значения идеально представлены в виде двойников? [дубликат]
этот вопрос уже есть ответ здесь: представление целых чисел в двойниках 5 ответов мой вопрос заключается в том, что все целочисленные значения гарантированно имеют идеальное двойное представление. рассмотрим следующий пример кода, который печатает "Same": // Example program #include <iostream> #include <string> int main() { int a = 3; int b = 4; double d_a(a); double d_b(b); do ...