Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / NoSQL, Big Data Новый топик    Ответить
Топик располагается на нескольких страницах: 1 2      [все]
 Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Привет!

мы разработали приложение (игра) по схеме: Клиент-Node.js-MongoDB

Пока база лежит на mLab на тарифе Shared Cluster.
Сейчас начался рост нагрузки и скоро он выйдет за пределы возможностей этого тарифа.

Как цель мы прогнозируем:
100-200 запросов в секунду
100GB данных в коллекциях

Как вариант, мы можем перейти на mLab на тариф Dedicated, который начинается от $180 в месяц (и быстро растет).
Вопрос, насколько это адекватные условия.

Какие сейчас есть хорошие альтернативы?
Кто-нибудь уже решал эту задачу для себя?
15 фев 18, 12:27    [21193477]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Развернуть свою реплику?
15 фев 18, 13:22    [21193695]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
Михаил,

https://www.mongodb.com/cloud/atlas/pricing
15 фев 18, 13:33    [21193731]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
AWS, Azure
15 фев 18, 13:34    [21193736]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Hett,

тоже как вариант вариант, правда придется перенять соотв. геморрой.

Хорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше.
15 фев 18, 13:40    [21193757]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
skyANA,

спасибо!

Я, собственно, уже нагуглил и копался в том числе и на Atlas.

Про Atlas мне попадается инфа, что пользователи часто получают счет гораздо больше, чем ожидали. Даже в разы!

Поэтому хочется конкретных соображений по выбору и/или инфы о своем опыте.
15 фев 18, 13:43    [21193778]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
Михаил,

мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах.
15 фев 18, 16:17    [21194445]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
Объём данных на данный момент - 700GB.

При этом ресурс машин утилизируется далеко не полностью. То есть мы могли бы использовать инстансы и подешевле.
15 фев 18, 16:23    [21194467]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
skyANA,

а какого порядка "query/sec"?

SSD?
15 фев 18, 17:22    [21194693]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Михаил
Хорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше.

Например, мы разворачивали сами, это дешевле.
Данных 20 ТБ, нагрузка - же 100-200 запросов в секунду, данные на обычных 10К дисках.
16 фев 18, 17:52    [21197821]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Eleanor,

с шардингом?
Сколько хостов и с какими CPU?

WiredTiger?
16 фев 18, 20:05    [21197987]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Михаил,

Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы.

Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать.

На WiredTiger не перешли.
17 фев 18, 02:53    [21198432]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Что-то не понял, у вас шарды не являются реплика-сетами?
17 фев 18, 12:00    [21198609]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Eleanor
...и только диски нужно постоянно докупать.

На WiredTiger не перешли.


WT вроде жмет хорошо!
17 фев 18, 14:09    [21198772]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Hett
Что-то не понял, у вас шарды не являются реплика-сетами?

Являются, кроме 2 рабочих шард если еще по 1 дублирующей реплики на каждую.

Михаил
WT вроде жмет хорошо!

Жмет-то хорошо, но при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок. Решили, что не готовы этим пользоваться и сжимаем-разжимаем данные на стороне клиента.
19 фев 18, 18:41    [21202835]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
Михаил,

Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы.

Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать.

На WiredTiger не перешли.

Из-за кривой работы WT с zilb и silent data corruption не рискнули? Или из-за медленного поиска по ключу?
MMAPv1 используется на 2.6 (блокировка на уровне базы) или 3.x (блокировка на уровне коллекции)? Бэкап через LVM или обычным способом?
11 мар 18, 15:55    [21247879]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок

Тестирование было на 3.0.1 версии?
11 мар 18, 16:04    [21247889]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Andy_OLAP,

>> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии?
Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД.
А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает.

>> Бэкап через LVM или обычным способом?
Фактически LVM. Но вы не поверите, у нас Windows.

Тоже где-то используете MongoDB в своем банке?
12 мар 18, 17:15    [21250497]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
Andy_OLAP,

>> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии?
Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД.
А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает.

>> Бэкап через LVM или обычным способом?
Фактически LVM. Но вы не поверите, у нас Windows.

Тоже где-то используете MongoDB в своем банке?

"Фактически LVM" - Windows на гипервизоре, а на нем что-то типа ZFS?
Пока мне свой банк не нужен, но если обзаведусь - буду использовать MongoDB. По-моему, таки большая часть косяков уже оттуда выпилена. Хотя бы тот факт, что Петя Зайцев под нее предоставляет сборку Percona Server, уже о многом говорит :)
12 мар 18, 19:51    [21250948]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Andy_OLAP,

Гипервизора нет. NTFS, shadow copy через vssadmin.

Косяки, да, повыпиливали.
Еще 3 года назад пользоваться MongoDB было страшно. Заявленный в документации функционал не работал. Например, запускаешь создание индексов онлайн - и коллекция 4 часа недоступна.

У всей команды долго было искушение выкинуть MongoDB и залить данные в реляционку. Сейчас проблем практически нет, но осадок остался.
12 мар 18, 21:51    [21251210]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Что за онлайн индексы? Почему не background ?
12 мар 18, 23:05    [21251328]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Hett,

Background и есть. Назвала ближайший аналог в Sql Server, с которым работает Andy_OLAP.
Обожглись с ним, уже не помню в какой версии, но с rolling index build всегда было отлично.
12 мар 18, 23:21    [21251360]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Eleanor,

а не помните конкретный кейс, в котором это произошло? Или не разбирались с причинами?
Мы начали полномасштабное внедрение где-то с третьей версии, тогда же и начали background индексами пользоваться, проблем с ними не было пока.
13 мар 18, 12:18    [21252417]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Hett,

Думаю, это давно уже починили. У нас внедрение пошло где-то с версии 2.2 и большинство проблем собрали именно на начальных версиях.

Из проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт. Но тут сами виноваты, что довели его до такого размера.
И под нагрузкой иногда падает сервис, что специфично только для Windows.
13 мар 18, 13:40    [21252627]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Eleanor
Из проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт

Интересно. У нас и до 30 Гб логи выростали, но кластер на убунте. Все никак руки не добуертся сделать ротацию. Хотя тут правда можно было и из коробки сделать, тем более там все для этого есть.
13 мар 18, 16:43    [21253250]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Hett
кластер на убунте

А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас?
13 мар 18, 18:46    [21253602]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Реплика сет из трех нод: одна 14 (ext3), другая 16 (xfs), на третьей даже не знаю, она для бэкапов и мастером не бывает. Монга 3.2
Из проблем было что бэкап снятый при помощи mongodump с oplog не полностью восстанавливался (на стадии записи данных оплога падал в ошибку связанную с каппед коллекцией).

Такой же ошибкой упали недавно все слейвы (ошибка о том, что запись в каппед коллекции не может расти). Но это скорее коллеги вина. Но все же странно, мастер то выполнял запросы, а слейвы падали. Я так понял это из-за того что каждая нода сама себе оптимальные паддинги выбирает.
13 мар 18, 22:14    [21253870]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Hett
Но это скорее коллеги вина.

Нет, он не виноват. В 3.7 починят. Пока Вам придется с этим таки жить.
13 мар 18, 23:18    [21253992]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2392
Hett
бэкап снятый при помощи mongodump с oplog

Какой у вас объем данных и за какое время проходит бэкап?
Собственно нам когда-то пришлось настроить снапшоты для бэкапа из-за того, что mongodump работал неприлично медленно.
13 мар 18, 23:58    [21254068]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Andy_OLAP
Hett
Но это скорее коллеги вина.

Нет, он не виноват. В 3.7 починят. Пока Вам придется с этим таки жить.

Избавились от каппед коллекции, заменили на обычную с expiresAfter опцией.
14 мар 18, 08:44    [21254241]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Eleanor
Hett
бэкап снятый при помощи mongodump с oplog

Какой у вас объем данных и за какое время проходит бэкап?
Собственно нам когда-то пришлось настроить снапшоты для бэкапа из-за того, что mongodump работал неприлично медленно.


Рабочий каталог монги - 100 гб (WT)
Из-за описанной выше проблемы отказались от бэкапа при помощи mongodump (заводил баг у них на трекере и отправлял им приватно часть сломанного дампа, но не удалось разобраться). Сейчас просто останавливаем слейв и рсинком отправляем данные на сервер бэкапов.
14 мар 18, 10:53    [21254603]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Andy_OLAP
Hett
кластер на убунте

А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас?

Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время.
14 мар 18, 10:56    [21254619]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Hett
Andy_OLAP
пропущено...

А крутите на 14.04.5, на 16.04 решили не переходить? Версия боевая сейчас 3.2 у Вас?

Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время.

Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать.
14 мар 18, 22:09    [21257048]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Hett,

Собственно, я бы на Вашем месте поторопился - согласно вот этому можно потерять на ровном месте данные до 3.2.11. Перед обновлением сначала подтяните свои сервера хотя бы на 3.2.8.
14 мар 18, 22:13    [21257061]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
В пределах минорных версий сервера обновляются конечно. Из официального репозитория монги.
15 мар 18, 07:48    [21257443]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Andy_OLAP
Hett
пропущено...

Кстати, обновлял два раза реплику, сначала на 3.0, потом на 3.2, все прошло без проблем, без даунтайма. Думаем на 3.4 переходить в ближайшее время.

Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать.


Разве? В 3.4 он только помечен как deprecated.
30 мар 18, 18:39    [21300486]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Hett
Andy_OLAP
пропущено...

Проверьте внимательно, не используете ли где выпиленный db.collection.group(), на 3.4 не будет работать.


Разве? В 3.4 он только помечен как deprecated.

Да, Вы правы, работать будет, но я таки что имел в виду - когда deprecated, а какой-нибудь фикс в одном месте отламывает этот метод в другом месте или приводит к диким тормозам - никто чинить к тому, как раньше классно работало, уже не будет. Махнут рукой и скажут "да ладно, мы всех предупредили заранее, так что перепишут, если будет нужен".
1 апр 18, 10:12    [21302526]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Hett,

не напишите плз мне для контакта на мейл в моем профиле?
23 апр 18, 16:26    [21361759]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
skyANA
Михаил,

мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах.

Добрый день. Как Ваша монга, еще доступна?
24 апр 18, 20:43    [21365897]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Михаил
Hett,

не напишите плз мне для контакта на мейл в моем профиле?


Можете спросить тут :)
24 апр 18, 20:56    [21365917]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Кстати обновил реплику с 3.2 на 3.4, но дальше пока сложности, появились записи о деприкейтах и нужно их устранять, прежде чем апгрейдиться дальше.
24 апр 18, 20:57    [21365919]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Hett
Михаил
Hett,

не напишите плз мне для контакта на мейл в моем профиле?


Можете спросить тут :)


Вас кратковременная консалтерская работа не интересует?
(MongoDB)
25 апр 18, 15:36    [21368233]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13577
Михаил,

да я в монге далеко не эксперт, даже с шардингом дел не имел. Тут поопытней ребята есть.
25 апр 18, 17:40    [21368736]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Hett
Михаил,

да я в монге далеко не эксперт, даже с шардингом дел не имел. Тут поопытней ребята есть.


Ок, разместил в "Работе".
27 апр 18, 12:13    [21373340]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
Andy_OLAP
skyANA
Михаил,

мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах.

Добрый день. Как Ваша монга, еще доступна?

доступна
30 апр 18, 09:43    [21379518]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26807
Михаил
Hett
пропущено...


Можете спросить тут :)


Вас кратковременная консалтерская работа не интересует?
(MongoDB)
А какого рода работа?
30 апр 18, 09:43    [21379520]     Ответить | Цитировать Сообщить модератору
Топик располагается на нескольких страницах: 1 2      [все]
Все форумы / NoSQL, Big Data Ответить