decimal- все статьи тега


cdecimal и SQLAlchemy на самом деле хранит десятичные числа.Десятичное число?

Мое приложение django + SQLAlchemy использует cdecimal вместо десятичного модуля по умолчанию. Я следовал инструкциям на веб-сайте SQLAlchemy: import sys import cdecimal sys.modules["decimal"] = cdecimal Используя то же самое из предыдущего потока stackoverflow , я могу добавить данные в БД. Однако, когда я извлекаю запись из своей таблицы и смотрю на ее значение, тип возвращаемого мне значения на самом деле decimal.Decimal, а не cdecimal.Decimal. Как мне сказать SQLAlchemy, чтобы он вер ...

C# кодирование файла в формате EBCDIC с упакованными десятичными знаками

Я должен подготовить файл для внешней сущности, и эта сущность использует мэйнфрейм IBM с COBOL и требует, чтобы файл был закодирован в EBCDIC. Я создаю файл на языке C#. Я думаю, что это вопрос из двух частей...во-первых, достаточно ли приведенного ниже кода, чтобы гарантировать, что файл будет сгенерирован таким образом, чтобы его можно было прочитать? StreamWriter sw = new StreamWriter(@"C:EBCDICFileEquivalent.txt", false, Encoding.GetEncoding(37)); Во-вторых, несколько полей в файле треб ...

Круглый до 2 знаков после запятой (только при необходимости)

Я бы хотел тур не более 2 знаков после запятой, а только в случае необходимости. вход: 10 1.7777777 9.1 выход: 10 1.78 9.1 как я могу сделать это в JavaScript? ...

Когда я должен использовать double вместо decimal?

Я могу назвать три преимущества использования double (или float) вместо decimal: использует меньше памяти. быстрее, потому что математические операции с плавающей запятой изначально поддерживаются процессорами. может представлять больший диапазон чисел. но эти преимущества, по-видимому, применимы только к вычислительным интенсивным операциям, таким как те, которые найдены в программном обеспечении моделирования. Конечно, двойники не должны использоваться, когда точность требуется, например, ф ...

В Java строки удалить все нечисловые символы

попытка удалить все буквы и символы, которые не являются 0-9 и точка. Я использую Character.isDigit() но он также удаляет decimal, как я могу также сохранить decimal? ...

Удалить незначащие нули

у меня есть некоторые поля, возвращаемые коллекция как 2.4200 2.0044 2.0000 Я хочу, чтобы результаты как 2.42 2.0044 2 Я пробовал с String.Format, но он возвращает 2.0000 и значение N0 округляет и другие значения. ...

Удалите бесполезные нулевые цифры из десятичных знаков в PHP

Я пытаюсь найти быстрый способ, чтобы удалить zero decimals от числовых значений вроде этого: echo cleanNumber('125.00'); // 125 echo cleanNumber('966.70'); // 966.7 echo cleanNumber(844.011); // 844.011 существует ли какой-то оптимизированный способ сделать это? ...

Целое число в шестнадцатеричную строку в C++

Как преобразовать целое число в шестнадцатеричную строку в C++? Я могу найти некоторые способы сделать это, но они в основном кажутся нацеленными на C. похоже, что нет собственного способа сделать это в C++. Это довольно простая проблема, хотя; у меня есть int который я хочу преобразовать в шестнадцатеричную строку для последующей печати. ...

Как рассчитать разницу в часах (десятичных) между двумя датами в SQL Server?

Я должен рассчитать разницу в часах (десятичный тип) между двумя датами в SQL Server 2008. Я не смог найти никакой полезной техники для преобразования datetime в decimal с помощью "CONVERT" на MSDN. может кто-нибудь помочь мне с этим? обновление: Чтобы быть ясным, мне нужна дробная часть (таким образом, десятичный тип). Так, с 9:00 до 10:30 он должен вернуть мне 1.5. ...

Настройка десятичной точности, .net

эти строки в C# decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); производит этот выход: 2 2.0 2.00000000 2.000000000000000000000000000 поэтому я вижу, что создание десятичной переменной из литерала позволяет мне контролировать точность. могу ли я настроить точность десятичных переменных без использования литералов? как я могу создать b из a? Как ...