Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Microsoft SQL Server Новый топик    Ответить
 повысить точность вычисления  [new]
Volodya
Member

Откуда:
Сообщений: 450
Добрый день!
В приложении на VB и в БД параллельно происходит выполнение арифметических операций для вычисления некого коэффициента.
В результате в приложении коэффициент получается с 14 знаками после запятой, в БД - после запятой всего 6 знаков.
При использовании полученного коэффициента для расчета финансовых параметров получаю разницу в копейку и более.
Возможно ли повысить точность вычисления в БД хотя бы до 10 знаков после запятой?
13 июн 15, 09:51    [17766447]     Ответить | Цитировать Сообщить модератору
 Re: повысить точность вычисления  [new]
alexeyvg
Member

Откуда: Moscow
Сообщений: 31780
Volodya
Добрый день!
В приложении на VB и в БД параллельно происходит выполнение арифметических операций для вычисления некого коэффициента.
В результате в приложении коэффициент получается с 14 знаками после запятой, в БД - после запятой всего 6 знаков.
При использовании полученного коэффициента для расчета финансовых параметров получаю разницу в копейку и более.
Возможно ли повысить точность вычисления в БД хотя бы до 10 знаков после запятой?
Возможно, типы данных и операции в MSSQL допускают точность до 18 знаков
13 июн 15, 12:35    [17766608]     Ответить | Цитировать Сообщить модератору
 Re: повысить точность вычисления  [new]
Makar4ik
Member

Откуда: Когда-то были Лужки, а теперь Бордюр-Сити.
Сообщений: 2680
Volodya
Добрый день!
В приложении на VB и в БД параллельно происходит выполнение арифметических операций для вычисления некого коэффициента.
В результате в приложении коэффициент получается с 14 знаками после запятой, в БД - после запятой всего 6 знаков.
При использовании полученного коэффициента для расчета финансовых параметров получаю разницу в копейку и более.
Возможно ли повысить точность вычисления в БД хотя бы до 10 знаков после запятой?

тип numeric - в помощь
14 июн 15, 00:17    [17768226]     Ответить | Цитировать Сообщить модератору
Все форумы / Microsoft SQL Server Ответить