Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / NoSQL, Big Data Новый топик    Ответить
Топик располагается на нескольких страницах: [1] 2   вперед  Ctrl      все
 Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Привет!

мы разработали приложение (игра) по схеме: Клиент-Node.js-MongoDB

Пока база лежит на mLab на тарифе Shared Cluster.
Сейчас начался рост нагрузки и скоро он выйдет за пределы возможностей этого тарифа.

Как цель мы прогнозируем:
100-200 запросов в секунду
100GB данных в коллекциях

Как вариант, мы можем перейти на mLab на тариф Dedicated, который начинается от $180 в месяц (и быстро растет).
Вопрос, насколько это адекватные условия.

Какие сейчас есть хорошие альтернативы?
Кто-нибудь уже решал эту задачу для себя?
15 фев 18, 12:27    [21193477]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13578
Развернуть свою реплику?
15 фев 18, 13:22    [21193695]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26876
Михаил,

https://www.mongodb.com/cloud/atlas/pricing
15 фев 18, 13:33    [21193731]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26876
AWS, Azure
15 фев 18, 13:34    [21193736]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Hett,

тоже как вариант вариант, правда придется перенять соотв. геморрой.

Хорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше.
15 фев 18, 13:40    [21193757]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
skyANA,

спасибо!

Я, собственно, уже нагуглил и копался в том числе и на Atlas.

Про Atlas мне попадается инфа, что пользователи часто получают счет гораздо больше, чем ожидали. Даже в разы!

Поэтому хочется конкретных соображений по выбору и/или инфы о своем опыте.
15 фев 18, 13:43    [21193778]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26876
Михаил,

мы хостимся в AWS, монга развёрнута на M4.2xlarge инстансах.
15 фев 18, 16:17    [21194445]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
skyANA
Member

Откуда: Зеленоград
Сообщений: 26876
Объём данных на данный момент - 700GB.

При этом ресурс машин утилизируется далеко не полностью. То есть мы могли бы использовать инстансы и подешевле.
15 фев 18, 16:23    [21194467]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
skyANA,

а какого порядка "query/sec"?

SSD?
15 фев 18, 17:22    [21194693]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Михаил
Хорошо бы тут услышать мнение типа: мы все посчитали, получается самим разворачивать несравнимо лучше.

Например, мы разворачивали сами, это дешевле.
Данных 20 ТБ, нагрузка - же 100-200 запросов в секунду, данные на обычных 10К дисках.
16 фев 18, 17:52    [21197821]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Eleanor,

с шардингом?
Сколько хостов и с какими CPU?

WiredTiger?
16 фев 18, 20:05    [21197987]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Михаил,

Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы.

Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать.

На WiredTiger не перешли.
17 фев 18, 02:53    [21198432]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13578
Что-то не понял, у вас шарды не являются реплика-сетами?
17 фев 18, 12:00    [21198609]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Михаил
Member

Откуда:
Сообщений: 1469
Eleanor
...и только диски нужно постоянно докупать.

На WiredTiger не перешли.


WT вроде жмет хорошо!
17 фев 18, 14:09    [21198772]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Hett
Что-то не понял, у вас шарды не являются реплика-сетами?

Являются, кроме 2 рабочих шард если еще по 1 дублирующей реплики на каждую.

Михаил
WT вроде жмет хорошо!

Жмет-то хорошо, но при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок. Решили, что не готовы этим пользоваться и сжимаем-разжимаем данные на стороне клиента.
19 фев 18, 18:41    [21202835]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
Михаил,

Шардинг на 2 сервера. 16 ядер нагружены в районе 2%, нагрузке и взяться неоткуда, там простейшие чтения-вставки, а вся более сложная обработка - в реляционной части системы.

Данные в принципе можно было не шардировать и держать все на одном сервере, но на этапе начального внедрения были мысли, что расширяться будем, закупая новые сервера и добавляя новые шарды. А оказалось, что нагрузка растет медленно, и только диски нужно постоянно докупать.

На WiredTiger не перешли.

Из-за кривой работы WT с zilb и silent data corruption не рискнули? Или из-за медленного поиска по ключу?
MMAPv1 используется на 2.6 (блокировка на уровне базы) или 3.x (блокировка на уровне коллекции)? Бэкап через LVM или обычным способом?
11 мар 18, 15:55    [21247879]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
при проведении тестирования zlib в логе было сообщение, что в процессе сжатия возникло ~300 ошибок

Тестирование было на 3.0.1 версии?
11 мар 18, 16:04    [21247889]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Andy_OLAP,

>> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии?
Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД.
А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает.

>> Бэкап через LVM или обычным способом?
Фактически LVM. Но вы не поверите, у нас Windows.

Тоже где-то используете MongoDB в своем банке?
12 мар 18, 17:15    [21250497]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Andy_OLAP
Member

Откуда: я знаю, что Хапоэль Беэр-Шева - чемпион
Сообщений: 3151
Eleanor
Andy_OLAP,

>> Из-за кривой работы WT с zilb и silent data corruption не рискнули? Тестирование было на 3.0.1 версии?
Точную версию не помню, но пришлось тестировать практически сразу после появления тройки, чтобы успеть, пока на серверах еще было место под вторую полную копию БД.
А потом руководство с Mongo наигралось, и на кластер больше никто не ковыряет, если проблем не возникает.

>> Бэкап через LVM или обычным способом?
Фактически LVM. Но вы не поверите, у нас Windows.

Тоже где-то используете MongoDB в своем банке?

"Фактически LVM" - Windows на гипервизоре, а на нем что-то типа ZFS?
Пока мне свой банк не нужен, но если обзаведусь - буду использовать MongoDB. По-моему, таки большая часть косяков уже оттуда выпилена. Хотя бы тот факт, что Петя Зайцев под нее предоставляет сборку Percona Server, уже о многом говорит :)
12 мар 18, 19:51    [21250948]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Andy_OLAP,

Гипервизора нет. NTFS, shadow copy через vssadmin.

Косяки, да, повыпиливали.
Еще 3 года назад пользоваться MongoDB было страшно. Заявленный в документации функционал не работал. Например, запускаешь создание индексов онлайн - и коллекция 4 часа недоступна.

У всей команды долго было искушение выкинуть MongoDB и залить данные в реляционку. Сейчас проблем практически нет, но осадок остался.
12 мар 18, 21:51    [21251210]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13578
Что за онлайн индексы? Почему не background ?
12 мар 18, 23:05    [21251328]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Hett,

Background и есть. Назвала ближайший аналог в Sql Server, с которым работает Andy_OLAP.
Обожглись с ним, уже не помню в какой версии, но с rolling index build всегда было отлично.
12 мар 18, 23:21    [21251360]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13578
Eleanor,

а не помните конкретный кейс, в котором это произошло? Или не разбирались с причинами?
Мы начали полномасштабное внедрение где-то с третьей версии, тогда же и начали background индексами пользоваться, проблем с ними не было пока.
13 мар 18, 12:18    [21252417]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Eleanor
Member

Откуда:
Сообщений: 2430
Hett,

Думаю, это давно уже починили. У нас внедрение пошло где-то с версии 2.2 и большинство проблем собрали именно на начальных версиях.

Из проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт. Но тут сами виноваты, что довели его до такого размера.
И под нагрузкой иногда падает сервис, что специфично только для Windows.
13 мар 18, 13:40    [21252627]     Ответить | Цитировать Сообщить модератору
 Re: Посоветуйте сервис для MongoDB  [new]
Hett
Member

Откуда: Бийск, Новосибирск
Сообщений: 13578
Eleanor
Из проблем на тройке запомнилось только то, что база начала сильно тормозить при разрастании файла лога до гигабайт

Интересно. У нас и до 30 Гб логи выростали, но кластер на убунте. Все никак руки не добуертся сделать ротацию. Хотя тут правда можно было и из коробки сделать, тем более там все для этого есть.
13 мар 18, 16:43    [21253250]     Ответить | Цитировать Сообщить модератору
Топик располагается на нескольких страницах: [1] 2   вперед  Ctrl      все
Все форумы / NoSQL, Big Data Ответить