Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / PostgreSQL Новый топик    Ответить
 Отставание репликации и обрываение коннекций  [new]
pavel24071988
Member

Откуда:
Сообщений: 14
Здравствуйте

Может ли подсказать по чтению больших данных из кластера postgresql?
проблема похожа на queryconflict - у нас есть запрос чтения с реплики который в худшем случае выполняется 1 минуту, за это время реплика успевает накопить отставание репликации и в некоторых случаях обрывает коннекцию с ошибкой "canceling statement due to conflict with recovery", знакомы devoпсы утверждают, что это не решается методами настройки кластера, есть основания думать, что ребята не достаточно хорошо разбираются в предметной области.
Я глубоко убежден что мы далеко не единственные в мире кто с этим сталкивался но решить мы это, пока, не можем.

заранее спасибо за помощь ребят.
20 ноя 21, 09:38    [22398263]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
pavel24071988
Member

Откуда:
Сообщений: 14
https://stackoverflow.com/questions/14592436/postgresql-error-canceling-statement-due-to-conflict-with-recovery

это пробовали - не помогло
20 ноя 21, 09:43    [22398265]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
mefman
Member

Откуда:
Сообщений: 3664
pavel24071988
https://stackoverflow.com/questions/14592436/postgresql-error-canceling-statement-due-to-conflict-with-recovery

это пробовали - не помогло

hot_standby_feedback = on

а это?
20 ноя 21, 11:47    [22398279]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
pavel24071988
Member

Откуда:
Сообщений: 14
Здравствуйте. С этим параметром экспериментировали, но начинает подтормаживать мастер и не успевает отрабатывать автовакуум.
22 ноя 21, 11:33    [22398978]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
pavel24071988
Member

Откуда:
Сообщений: 14
нам очень не понятно что на, относительно, слабых локальных машинах, запросы выполнятся вообще без проблем - мгновенно
я конечно понимаю что на локальной машине нет кластера и реплики - но чисто логически - разве для этого нужны мощные сервера и все отделы dba + sre что испытывать такие проблемы ?)))
22 ноя 21, 11:48    [22398984]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
Melkomyagkii_newbi
Member

Откуда: из прошлого
Сообщений: 2112
pavel24071988,

я не постгресист, но думаю что мог слететь план запроса из-за особенностей окружения(которых нет на локальных тачках) или из-за них же план не оптимален(много каких-то объектов в каких-то вьюхах/таблицах словаря/юзерских). Может он какие-то данные нужные для репликации щупает и они с реплиакцией как-то лочатся в общем - запрос, план, статистику по данным в студию.

ЗЫ Выглядит как вопрос для форума по постгре, в Работе публикуют задачи за решение которых готовы деньгу платить.

Модератор: Тема перенесена из форума "Работа".


Сообщение было отредактировано: 22 ноя 21, 15:06
22 ноя 21, 15:04    [22399136]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
pavel24071988
Member

Откуда:
Сообщений: 14
по графикам нагрузки очень похоже что мы упираемся в диск - на наших нодаг 8гБ ОЗУ - решили увеличить до 32гБ и посмотреть, возможно поможет
наверное дня два будем эксперементировать
@Melkomyagkii_newbi, так мы бы заплатили, милый человек, только кому и сколько платить то?
22 ноя 21, 16:13    [22399172]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
Maxim Boguk
Member

Откуда: По разному.
Сообщений: 5021
pavel24071988
по графикам нагрузки очень похоже что мы упираемся в диск - на наших нодаг 8гБ ОЗУ - решили увеличить до 32гБ и посмотреть, возможно поможет
наверное дня два будем эксперементировать
@Melkomyagkii_newbi, так мы бы заплатили, милый человек, только кому и сколько платить то?


У вас собственно два варианта в таком случае
1)поставить на реплике max_standby_streaming_delay не 30s а то время сколько на ваши запросы требуется + hot_standby_feedback в off
(но надо понимать что реплика на это время может во время запроса отставать и если ваша бизнес логика требует чтобы реплика не отставала - это может быть неудобно)

или
2)поставить hot_standby_feedback = on и посмотреть не исправится ли ситуация.

Если есть возможность обычно держат 2 реплики - одна не отстающая для быстрых запросов и одна которая может отставать для всяких аналитических запросов и выгрузок по минуте или часу.

PS: "знакомы devoпсы утверждают, что это не решается методами настройки кластера" - no comments, понабрали по объявлениям

--
Maxim Boguk
лучшая поддержка PostgreSQL: dataegret.ru
.
22 ноя 21, 17:57    [22399256]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
mefman
Member

Откуда:
Сообщений: 3664
pavel24071988
но начинает подтормаживать мастер и не успевает отрабатывать автовакуум.

что значит подтормаживать?
автовакуум настраивать не пробовали?
22 ноя 21, 18:00    [22399266]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
Melkomyagkii_newbi
Member

Откуда: из прошлого
Сообщений: 2112
pavel24071988
по графикам нагрузки очень похоже что мы упираемся в диск - на наших нодаг 8гБ ОЗУ - решили увеличить до 32гБ и посмотреть, возможно поможет
наверное дня два будем эксперементировать
@Melkomyagkii_newbi, так мы бы заплатили, милый человек, только кому и сколько платить то?


Надо понять - почему упираетесь в диск? Какие сессии/процессы/запросы к этому приводят? Может дело в кривом плане или коде/логике приложений и тогда не факт что увеличение количества озу поможет. Потом, просто дать озу операционке не достаточно, надо как-то и субд их додать, а там возможно нужно конкретные области памяти увеличивать, а для этого надо понять каких не хватает..
22 ноя 21, 18:24    [22399296]     Ответить | Цитировать Сообщить модератору
 Re: Отставание репликации и обрываение коннекций  [new]
Юниксберг
Member

Откуда:
Сообщений: 7
Приложите графики из системы мониторинга по io

pavel24071988
по графикам нагрузки очень похоже что мы упираемся в диск - на наших нодаг 8гБ ОЗУ - решили увеличить до 32гБ и посмотреть, возможно поможет
наверное дня два будем эксперементировать

Без дополнительной настройки шанс небольшой.

Сообщение было отредактировано: 23 ноя 21, 03:48
23 ноя 21, 03:45    [22399490]     Ответить | Цитировать Сообщить модератору
Все форумы / PostgreSQL Ответить