Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Microsoft SQL Server Новый топик    Ответить
 Точность, масштаб, длина  [new]
MyNiGoo
Member

Откуда:
Сообщений: 233
Пишу view, в которой умножается поле decimal(24,12) на decimal(24,12)
Получаю decimal(38,13). Откуда берется 38, понятно:
BOL
Если значение точности превышает 38, то соответствующий масштаб уменьшается, чтобы по возможности предотвратить усечение интегральной части результата.

А откуда берется 13? Почему именно до 13 уменьшился масштаб, как было получено это число?

ps
И как можно посмотреть тип поля с результатом, кроме как оформляя view?
2 мар 12, 01:41    [12180605]     Ответить | Цитировать Сообщить модератору
 Re: Точность, масштаб, длина  [new]
MyNiGoo
Member

Откуда:
Сообщений: 233
p1 + p2 + 1 = 24 + 24 +1 = 49 усекаем до 38
s1 + s2 = 12 + 12 = 24 почему усекается именно до 13?
2 мар 12, 01:44    [12180614]     Ответить | Цитировать Сообщить модератору
 Re: Точность, масштаб, длина  [new]
Glory
Member

Откуда:
Сообщений: 104751
MyNiGoo
p1 + p2 + 1 = 24 + 24 +1 = 49 усекаем до 38
s1 + s2 = 12 + 12 = 24 почему усекается именно до 13?

49.24 -> 49-11.24-11 -> 38.13
2 мар 12, 09:36    [12181135]     Ответить | Цитировать Сообщить модератору
 Re: Точность, масштаб, длина  [new]
MyNiGoo
Member

Откуда:
Сообщений: 233
Спасибо! Видимо, так. В msdn неплохо было бы отображать этот момент.
3 мар 12, 17:47    [12188732]     Ответить | Цитировать Сообщить модератору
Все форумы / Microsoft SQL Server Ответить