Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / PowerBuilder Новый топик    Ответить
 Округление  [new]
Владимир2
Member

Откуда:
Сообщений: 337
PowerBuilder 9.0
Adaptive Server Anywhere Version 9.0

Как правильно?

IF IsNull ( dw_1 .object . Ts . primary [ dw_1 . GetRow() ]) = 0  THEN 
	dw_1 .object . Ts . primary [ dw_1 . GetRow() ] = 77.77
END IF

Если выбрать Format поля in control object DataWindow  
‘General’ , то выводится 77.769997
Если же выбрать Format поля in control object DataWindow  
‘#,##0.00’ , то выводится 77.76

СПАСИБО.
10 фев 07, 18:00    [3766345]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
craftyman
Member

Откуда:
Сообщений: 169
нет, он прикалывается?!
12 фев 07, 11:30    [3770372]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
Estets
Member

Откуда: Химки
Сообщений: 604
Тип поля Ts в dw?
12 фев 07, 12:47    [3770969]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
Владимир2
Member

Откуда:
Сообщений: 337
автор
Тип поля Ts в dw?


double при создании таблицы
13 фев 07, 11:16    [3776422]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
Dim2000
Member

Откуда: Москва
Сообщений: 5318

Владимир2 wrote:

> double при создании таблицы

Ну и что тебе непонятно ;)?

Posted via ActualForum NNTP Server 1.3

13 фев 07, 11:27    [3776524]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
Владимир2
Member

Откуда:
Сообщений: 337
автор
Ну и что тебе непонятно ;)?


77.76 или 77.77 ?
13 фев 07, 11:54    [3776826]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
craftyman
Member

Откуда:
Сообщений: 169
Владимир2
автор
Ну и что тебе непонятно ;)?


77.76 или 77.77 ?


c какой точностью надо, с такой и пиши! хоть 77.769997.
13 фев 07, 12:05    [3776938]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
craftyman
Member

Откуда:
Сообщений: 169
свойство Format влияет лишь на отображение данных в ДВ, а не на сами данные.
13 фев 07, 12:06    [3776948]     Ответить | Цитировать Сообщить модератору
 Re: Округление  [new]
Estets
Member

Откуда: Химки
Сообщений: 604
Владимир2
автор
Тип поля Ts в dw?


double при создании таблицы

Numeric(<точность>) спасет тебя от проблем с округлениями. При работе с DW бывают глюки при использовании типов FLOAT и DOUBLE. Можно еще попробывать заменить ДОТ нотацию на dw_1.SetItem(... иногда помогало.
13 фев 07, 14:15    [3778145]     Ответить | Цитировать Сообщить модератору
Все форумы / PowerBuilder Ответить