precision- все статьи тега
PHP7.1 закодировать в JSON() вопрос поплавка
Это не вопрос, так как это скорее осознание. Я обновил приложение, которое использует json_encode() для PHP7. 1. 1, и я видел проблему с поплавками, которые иногда расширяются до 17 цифр. Согласно документации, PHP 7.1.x начал использовать serialize_precision вместо точности при кодировании двойных значений. Я предполагаю, что это вызвало примерное значение 472.185 Стать 472.18500000000006 После этого пошел через json_encode(). С момента моего открытия я вернулся к PHP 7.0.16, и ...
Как избежать ошибок округления при расчете площади треугольника?
Я пытаюсь вычислить площадь треугольника с вершинами {{0,1000000000},{1,0},{0,-1000000000}} Легко видеть, что площадь этого треугольника должна быть 1,000,000,000, но когда я пытаюсь вычислить площадь в Java, используя формулу Heron или формулу шнурка, я получаю 0 для этой площади. Я уверен, что это связано с ошибкой округления при использовании double s, но я не уверен, как продолжить. Есть указания? Программа: private static double areaShoelace(int[][] v) { return 0.5 * Math.abs(v[ ...
В чем разница между float и double?
Я читал о разнице между двойной точностью и плавающей запятой одинарной точности. Однако, в большинстве случаев, float и double кажутся взаимозаменяемыми, т. е. использование одного или другого не влияет на результаты. Это действительно так? Когда поплавки и двойники взаимозаменяемы? В чем разница между ними? ...
Сохранить точность с двойным в Java
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } приведенный выше код печатает: 11.399999999999 Как бы я получил это, чтобы просто распечатать (или быть в состоянии использовать его как) 11.4? ...
Сколько двузначных чисел между 0.0 и 1.0?
Это то, что было у меня на уме в течение многих лет, но я никогда не взял время, чтобы спросить, прежде чем. много (псевдо) генераторы случайных чисел, генерируют случайное число между 0.0 и 1.0. Математически есть бесконечные числа в этом диапазоне, но double является числом с плавающей запятой, и поэтому имеет конечную точность. поэтому вопросы: сколько double число между 0.0 и 1.0? там так же много чисел между 1 и 2? Между 100 и 101? Между 10^100 и 10^100+1? Примечание: если это имеет зн ...
C# DateTime.Теперь точность
Я просто столкнулся с некоторым неожиданным поведением с DateTime.UtcNow при выполнении некоторых модульных тестов. Оказалось, что, когда вы называете даты.Теперь/UtcNow в быстрой последовательности, похоже, возвращает вам одно и то же значение в течение более длительного, чем ожидалось, интервала времени, а не захватывает более точные миллисекундные приращения. Я знаю, что есть класс секундомера, который лучше всего подходит для выполнения точных измерений времени, но мне было любопытно, может ...
PHP-точность плавающего числа [дубликат]
этот вопрос уже есть ответ здесь: математика с плавающей запятой нарушена? 27 ответов $a = '35'; $b = '-34.99'; echo ($a + $b); результаты в 0.009999999999998 что это такое? Я удивлялся, почему моя программа продолжала сообщать странные результаты. почему PHP не возвращает ожидаемый 0.01? ...
Какой диапазон чисел может быть представлен в 16 -, 32-и 64-разрядных системах IEEE-754?
Я немного знаю о том, как представлены числа с плавающей запятой, но, боюсь, недостаточно. общий вопрос: для заданной точности (для моих целей, количество точных десятичных знаков в базе 10), какой диапазон чисел может быть представлен для 16-, 32 - и 64-разрядных систем IEEE-754? в частности, меня интересует только диапазон 16-битных и 32-битных чисел с точностью до + / -0.5 (те места) или +/- 0.0005 (тысячного). ...
Настройка десятичной точности, .net
эти строки в C# decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); производит этот выход: 2 2.0 2.00000000 2.000000000000000000000000000 поэтому я вижу, что создание десятичной переменной из литерала позволяет мне контролировать точность. могу ли я настроить точность десятичных переменных без использования литералов? как я могу создать b из a? Как ...
Все целочисленные значения идеально представлены в виде двойников? [дубликат]
этот вопрос уже есть ответ здесь: представление целых чисел в двойниках 5 ответов мой вопрос заключается в том, что все целочисленные значения гарантированно имеют идеальное двойное представление. рассмотрим следующий пример кода, который печатает "Same": // Example program #include <iostream> #include <string> int main() { int a = 3; int b = 4; double d_a(a); double d_b(b); do ...