Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Microsoft SQL Server Новый топик    Ответить
 Точность вычисления sum  [new]
mbabkin
Member

Откуда: Москва
Сообщений: 115
Запрос
select sum(сумма1- сумма2), sum(сумма1) - sum(сумма2) from таблица

дает разный результат.
Подскажите пожалуйста куда копать.
20 июн 13, 14:22    [14460133]     Ответить | Цитировать Сообщить модератору
 Re: Точность вычисления sum  [new]
Glory
Member

Откуда:
Сообщений: 104760
mbabkin
Подскажите пожалуйста куда копать.

BOL - SUM - Return Types
decimal category (p, s) - decimal(38, s)

BOL - Precision, Scale, and Length
20 июн 13, 14:24    [14460153]     Ответить | Цитировать Сообщить модератору
 Re: Точность вычисления sum  [new]
Мистер Хенки
Member

Откуда: канализация
Сообщений: 6615
еще в сторону обработки null значений
20 июн 13, 14:28    [14460179]     Ответить | Цитировать Сообщить модератору
 Re: Точность вычисления sum  [new]
Cygapb-007
Member

Откуда:
Сообщений: 1677
одно из полей IS NULL
20 июн 13, 14:28    [14460180]     Ответить | Цитировать Сообщить модератору
 Re: Точность вычисления sum  [new]
mbabkin
Member

Откуда: Москва
Сообщений: 115
Да, проблема банально в null. Всем спасибо
20 июн 13, 16:20    [14461042]     Ответить | Цитировать Сообщить модератору
Все форумы / Microsoft SQL Server Ответить