floating-point- все статьи тега
Почему бы не использовать Double или Float для представления валюты?
Мне всегда говорили Никогда не представлять деньги с double или float типами, и на этот раз я задаю вам вопрос: почему? Я уверен, что есть очень веская причина, я просто не знаю, что это такое. ...
Точность чисел в JavaScript
Почему 100 = = 99.999 является истинным, однако 100 == 99.99 является ложным в Javascript? ...
Float и double datatype в Java
Тип данных float-это 32-разрядная IEEE 754 с плавающей запятой одинарной точности, а тип данных double-64-разрядная IEEE 754 с плавающей запятой двойной точности. Что это значит? И когда я должен использовать float вместо double или наоборот? ...
непредсказуемые ошибки с плавающей запятой при разложении матрицы
Я пытаюсь разложить матрицу перспектив на ближние и дальние расстояния, используя следующую формулу: near = m32 / (m22 - 1); far = m32 / (m22 + 1); Здесь параметры теста перспективной матрицы: aspect = 0.782f; fovy = glm_rad(49.984f); nearDist = 0.1550385f; farDist = 6000.340975f; glm_perspective(fovy, aspect, nearDist, farDist, proj); Вот что я делаю, чтобы получить ближние и дальние значения (proj-это матрица с большим столбцом): far = proj[3][2] / (proj[2][2] + 1 ...
Как избежать ошибок округления при расчете площади треугольника?
Я пытаюсь вычислить площадь треугольника с вершинами {{0,1000000000},{1,0},{0,-1000000000}} Легко видеть, что площадь этого треугольника должна быть 1,000,000,000, но когда я пытаюсь вычислить площадь в Java, используя формулу Heron или формулу шнурка, я получаю 0 для этой площади. Я уверен, что это связано с ошибкой округления при использовании double s, но я не уверен, как продолжить. Есть указания? Программа: private static double areaShoelace(int[][] v) { return 0.5 * Math.abs(v[ ...
Как разобрать строку на float или int в Python?
в Python, как я могу разобрать числовую строку, как "545.2222" к соответствующему значению float,542.2222? Или разобрать строку "31" в целое число, 31? Я просто хочу знать, как разобрать floatstring до float, и (отдельно) an intstring до int. ...
Как проверить, является ли строка числом (float)?
каков наилучший способ проверить, может ли строка быть представлена как число в Python? функция, которую я в настоящее время имею прямо сейчас: def is_number(s): try: float(s) return True except ValueError: return False который, не только уродливый и медленный, кажется неуклюжим. Однако я не нашел лучшего метода, потому что вызов float в основной функции еще хуже. ...
Есть ли тип ввода float в HTML5?
согласно html5.org, атрибут значения входного типа "number", если он указан и не пуст, должен иметь значение, которое является допустимым числом с плавающей запятой." но это просто (в последней версии Chrome, во всяком случае), элемент управления "updown" с целыми числами, а не плавает: <input type="number" id="totalAmt"></input> есть ли элемент ввода с плавающей запятой, родной для HTML5, или способ заставить тип ввода числа работать с поплавками, а не с ints? Или я до ...
Формат числа, чтобы всегда показывать 2 десятичных знака
Я хотел бы отформатировать свои числа, чтобы всегда отображать 2 десятичных знака, округляя, где это применимо. примеры: number display ------ ------- 1 1.00 1.341 1.34 1.345 1.35 я использую этот: parseFloat(num).toFixed(2); но это отображение 1 как 1, а не 1.00. ...
Зачем нужна математика.круглый(0.49999999999999994) возвращает 1?
в следующей программе вы можете видеть, что каждое значение немного меньше, чем .5 округляется вниз, за исключением 0.5. for (int i = 10; i >= 0; i--) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l--; } while (Math.round(x) > i); } печать 10.5 rounded is 11 10.499999999999998 rounded is 10 9.5 rounded is 10 9.499999999999998 rounded is 9 8.5 rou ...
В чем разница между float и double?
Я читал о разнице между двойной точностью и плавающей запятой одинарной точности. Однако, в большинстве случаев, float и double кажутся взаимозаменяемыми, т. е. использование одного или другого не влияет на результаты. Это действительно так? Когда поплавки и двойники взаимозаменяемы? В чем разница между ними? ...
Как разобрать float с двумя десятичными знаками в javascript?
У меня есть следующий код. Я хотел бы иметь его таким, что если price_result равен целому числу, скажем 10, то я хотел бы добавить два десятичных знака. Так что 10 будет в 10.00. Или если он равен 10.6 будет 10.60. Не знаю, как это сделать. price_result = parseFloat(test_var.split('$')[1].slice(0,-1)); ...
Почему некоторые плавают
при сравнении поплавков с целыми числами некоторые пары значений оцениваются намного дольше, чем другие значения аналогичной величины. например: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million times 0.5387085462592742 но если поплавок или целое число становится меньше или больше на определенную величину, сравнение выполняется гораздо быстрее: >>> timeit.timeit("562949953420000.7 < 562949953422000") # integer increas ...
Как конвертировать float в int с помощью Java
я использовал следующую строку для преобразования float в int, но это не так точны, как хотелось бы: float a=8.61f; int b; b=(int)a; результат : 8 (Он должен быть!--2-->) , когда a = -7.65f результат : -7 (Он должен быть!--5-->) каков наилучший способ сделать это ? ...
Когда я должен использовать double вместо decimal?
Я могу назвать три преимущества использования double (или float) вместо decimal: использует меньше памяти. быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. может представлять больший диапазон чисел. но эти преимущества, по-видимому, применимы только к вычислительным интенсивным операциям, таким как те, которые найдены в программном обеспечении моделирования. Конечно, двойники не должны использоваться, когда точность требуется, например, ф ...
C++ генерация случайных чисел с плавающей запятой
Как я могу генерировать случайные поплавки в C++? Я думал, что могу взять целое число rand и разделить его на что-то, будет ли это достаточно адекватно? ...
Как преобразовать строку в float в JavaScript?
Я пытаюсь разобрать два значения из таблицы. Поля числовые, и когда они имеют запятую (например. 554,20), я не могу получить цифры после запятой. Я пробовал parseInt и parseFloat. Как я могу это сделать? ...
Что является лучшим способом, чтобы сравнить поплавки для почти-равенство в Python?
хорошо известно, что сравнение поплавков для равенства немного неудобно из-за проблем округления и точности. например: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ каков рекомендуемый способ справиться с этим в Python? конечно, есть стандартная библиотечная функция для этого где-то? ...
Формат с плавающей запятой до n знаков после запятой
мне нужно отформатировать поплавок до " n " десятичных знаков. пытался BigDecimal, но возвращаемое значение неверно... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new BigDecimal(pNumero); value = value.setScale(pCantidadDecimales, RoundingMode.HALF_EVEN); // here the value is correct (625.30) return value.floatValue(); // but here the values is 625.3 } мне нужно вернуть ...
Как вы округляете число с плавающей запятой в Perl?
Как я могу округлить десятичное число (с плавающей точкой) до ближайшего целого? например 1.2 = 1 1.7 = 2 ...