Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / PostgreSQL Новый топик    Ответить
 Pentaho DI v8.3 Community Edition очень долго сохраняет трансформации, что можно сделать ?  [new]
Wild-Jack
Member

Откуда:
Сообщений: 17
Подскажите, для построения DWH используем Pentaho DI v8.3 Community Edition.
Репозиторий со всеми джобами и трансформациями развёрнут на PostgreSQL.
В начале всё было окей, но чем дальше тем медленнее сохраняются трансформации в репозиторий.
Что можно с этим сделать и как выйти из этого положения.

П.С. трансформация с 25 степами сохраняется минуту, хотя вначале это занимало секунды.
29 янв 20, 06:31    [22068268]     Ответить | Цитировать Сообщить модератору
 Re: Pentaho DI v8.3 Community Edition очень долго сохраняет трансформации, что можно сделать ?  [new]
grgdvo
Member

Откуда:
Сообщений: 79
Wild-Jack,

наверно это больше вопрос к Пентахо, как они используют постгрес, какая нагрузка, какие настройки рекомендуют для оптимальной работы.
с точки зрения постгрес можете включить параметр log_min_duration_statement и играться с его значением, чтобы смотреть, какие запросы дольше всего работают. дальше анализ планов этих запроса со всеми вытекающими.
29 янв 20, 07:20    [22068276]     Ответить | Цитировать Сообщить модератору
 Re: Pentaho DI v8.3 Community Edition очень долго сохраняет трансформации, что можно сделать ?  [new]
Partisan M
Member

Откуда:
Сообщений: 1392
Wild-Jack,
Слово репозиторий не существует, это хранилище. Слово трансформация существует, но применено неправильно. Это преобразование. Слово джоб не существует. Это задание. Слово степ не существует. Не буду уж подсказывать, как это по-русску.

Причина торможения непонятна. Я хоть и использую PDI с PostgreSQL, такого не видел. Может быть, и в PostgreSQL, хотя само по себе PostgreSQL не замедляется. Проверить, нормально ли оно работает без учёта PDI.

В Pentaho - проверить, произведена ли его настройка для хранения его объектов в PostgreSQL вместо применяемой по умолчанию HSQDB.
1 фев 20, 14:45    [22070806]     Ответить | Цитировать Сообщить модератору
 Re: Pentaho DI v8.3 Community Edition очень долго сохраняет трансформации, что можно сделать ?  [new]
Wild-Jack
Member

Откуда:
Сообщений: 17
Partisan M,

автор
В Pentaho - проверить, произведена ли его настройка для хранения его объектов в PostgreSQL вместо применяемой по умолчанию HSQDB


подскажите, как это проверить ?

Если я сохраняю трансформацию на локальной машине, то это происходит мгновенно, но если сохраняю в хранилище на сервере, то это занимает минуты.

В PostgreSQL смотрели нагрузку на таблицы в момент сохранения, но нагрузка занимает секунды.

Куда сохраняется сама трансформация ? На сервер в виде файла или в БД PostgreSQL или в БД сохраняется лишь ссыдка на этот файл на сервере ?

Спасибо !
6 фев 20, 08:48    [22074319]     Ответить | Цитировать Сообщить модератору
Все форумы / PostgreSQL Ответить