Поле "XXX" (= -0,000) может содержать только положительные числа

[Владимир Максимов]

dax2012 R3

Поле имеет свойство AllowNegative = No. Т.е. запрет отрицательных значений

ttsbegin;

qty = (  );    // здесь расчет значения
qty = decRound(qty, 3);
myTab.MyField = qty;

if (myTab.MyField < 0)
   throw error('Отрицательное значение');

if (myTab.validateWrite())
{
    myTab.update();
}

ttscommit;

Иногда! При выполнении этого кода в пакете получаю указанную в названии темы ошибку

Цитата:

Поле "XXX" (= -0,000) может содержать только положительные числа

Причем ошибка именно при работе в пакете. Если запускать обработку без пакета, то ошибка ни разу не возникала. Как следствие, сделать корректный тестовый пример для воспроизведения ошибки не получается. Просто не могу поймать, когда она возникает

Пока обошел проблему вот так

ttsbegin;

qty = (  );    // здесь расчет значения
qty = decRound(qty, 3);

// Если в результате расчет ноль, то явно указать ноль
if (qty == 0)
{
     qty = 0;
}

myTab.MyField = qty;

if (myTab.MyField < 0)
   throw error('Отрицательное значение');

if (myTab.validateWrite())
{
    myTab.update();
}

ttscommit;

Никто не сталкивался с такой проблемой?

[Logger]

Я не сталкивался, но есть догадка почему так получилось.
В X++ все real переменные - это BCD (binary coded decimals) поэтому там такой проблемы не возникает.
А при выполнении в пакете работает CIL
Там скорее всего используется какой-нибудь System.Double который годится для научных расчетов, но не очень для финансовых как раз из-за проблемы с округлениями.

Можно для Excel построить простой пример когда в одном столбце попеременно вводится порядка 30 положительных и отрицательных целых чисел так что их сумма 0. Excel в итоге покажет сумму 1.0+e15 или -1.0+e15
Это та же проблема.

Попробуйте просто в пакете своем поставить округление через X++ функции round или decRound
Или если речь о деньгах, то по феншую заюзать Currency::Amount() или Currency::Price()

[Logger]

пример
https://www.excel-vba.ru/chto-umeet-...itaet-pochemu/

Цитата:

Спасибо автору за разъяснения. Обнаружил ошибку при сравнении разности с числом, довел ситуацию до абсурда и выяснил, что в Excel 2013 ошибка возникает при действии с числами начиная с четвертого знака после запятой в 17-м знаке, хотя номер знака при сравнении разности с нулем не имеет значения
A B C A-B-C
1,3000000000 1,1000000000 0,2000000000 0,00000000000000000000
1,0300000000 1,0100000000 0,0200000000 0,00000000000000000000
1,0030000000 1,0010000000 0,0020000000 0,00000000000000000000
1,0003000000 1,0001000000 0,0002000000 -0,00000000000000002204
1,0000300000 1,0000100000 0,0000200000 -0,00000000000000009102
1,0000030000 1,0000010000 0,0000020000 0,00000000000000005751

от себя добавлю такой пример

Цитата:

1000003 1000001 2 0,000000000116415321826935000000

ошибка в 10-м знаке получилась.

[Logger]

https://docs.microsoft.com/en-us/dyn...eveloper/reals

[Raven Melancholic]

Несколько мест в DAX2012 видел где real прямо приводится к net double и в некоторых комментарии про ошибки округления в CIL.
Вот, навскидку пример: метод price2Amount класса PriceDisc

// As the precision are different between data type "Real" in X++ and "Decimal" in IL, it may result in rounding defference when
        // running X++ and IL. To resolve this issue, we convert "Decimal" to "Double" here if the code was running in IL, thus there is
        // a precision down, and the precission will extremely like data type "Real" in X++.
        if (xSession::isCLRSession())
        {
            returnAmount = System.Convert::ToDouble(returnAmount);
        }