Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Microsoft SQL Server Новый топик    Ответить
Топик располагается на нескольких страницах: [1] 2 3 4 5 6   вперед  Ctrl      все
 SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
Sergey Syrovatchenko
Member

Откуда: Харьков
Сообщений: 80
Так уж исторически сложилось, что долгое время участвовал в разработке системных тулов для обслуживания SQL Server.
За это время накопилось много идей и на определенном этапе захотелось сделать что-то свое.

В результате получилось приложение, которое позволяет обслуживать индексы через удобный UI.
За основных конкурентов брались платные аналоги от компаний RedGate / Devart (155 $ / 99 $ на текущий момент).

Ключевые особенности SQL Index Manager (1.0.0.31):

  • Оптимизированный алгоритм получения фрагментированных индексов * * *
  • Возможность обслуживания нескольких баз данных за раз
  • Автоматический выбор действия для индексов исходя из выбранных настроек
  • Поддержка глобального поиска и сложной фильтрации для более удобной аналитики
  • Большое число настроек и полезной информации об индексах
  • Автоматическая генерация скриптов по обслуживанию индексов
  • Поддержка обслуживания кучи и колумнсторов
  • Возможность включать сжатие индексов и обновление статистики вместо ребилда
  • Поддержка всех редакций SQL Server 2008+ и Azure SQL Database

    * * *
    RedGate SQL Index Manager v1.1 работает простым перебором, т. е. получает весь список индексов.
    Потом в цикле отправляет запрос на получения уровня фрагментации для каждого индекса.
    В итоге если база удаленная и содержит много мелких индексов, то это может затянуться на долгое время.

    dbForge Index Manager for SQL Server v1.10.27 от Devart получает все большой охапкой.
    Затем уже на клиенте отфильтровывает лишнее. Как минус всегда будут лишние дисковые операции при сканировании индексов.
    Не скажу, что это совсем уж плохо, потому что можно лучше...

    Исходя из того, что данные в sys.dm_db_index_physical_stats не кешируется SQL Server на постоянной основе,
    минимизирование физических чтений при получении фрагментации индексов было одной из приоритетных задач при разработке.

    В итоге разделил механизм дескрайба на две части: одним запросом получаю фрагментацию по мелким индексам и потом
    дополучаю информацию по большим индексам при этом не сканируя те, которые не подпадают под текущие условия фильтрации.

    В ближайших планах добавить:

  • Поддержку командной строки
  • Получение более глубокой информации об индексах
  • Возможность экспорта результатов
  • Кастомизация интерфейса

    На данный момент и в дальнейшем, SQL Index Manager полностью бесплатный.

    Последнюю версию приложения можно скачать по этой ссылке, а все исходники лежат на GitHub.

    Картинка с другого сайта.

    Картинка с другого сайта.

    Продукт хочется развивать и делать более функциональным, поэтому буду рад критике и предложениям.
    Пишите или в этот топик или по почте, который указан в профиле.
  • 6 май 19, 15:42    [21879074]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Гавриленко Сергей Алексеевич
    Member

    Откуда: Moscow
    Сообщений: 36269
    +
    [ 17:19:48.733 ] Log folder: D:\Distr\SQLIndexManager
    [ 17:20:02.830 ] Current host: xxx | SQL Server 2016 SP2 (13.0.5153.0) Enterprise Edition: Core-based Licensing (64-bit)
    [ 17:20:03.088 ] Elapsed time: 00:00:00:237. Refresh databases failed
    Arithmetic overflow error converting expression to data type int.
    6 май 19, 17:41    [21879227]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Sergey Syrovatchenko,

    А что кто то еще дефрагментирует индексы? А зачем? Еще и тул для этого писать. Создавать лишнюю нагрузку во время получения данных о фрагментации, а потом еще во время ребилда генерить кучу логов и потенциально отправлять их на secondary сервера. И все ради того чтобы получить чуть чуть лучше перформанс?

    Может ради пустого места в индексах и можно заморочиться, но не ради фрагментации как таковой. Пустое место критично хотя бы потому что память занимает.
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.
    6 май 19, 22:23    [21879429]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Mind
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    это, кстати, хорошая мысль - реорганизация горячих таблиц/индексов
    6 май 19, 23:42    [21879464]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.32:

  • Исправлена ошибка "Arithmetic overflow error converting expression to data type int" при получении списка баз
  • Возможность кастомизации грида (скрывать/показывать столбцы и менять их расположение)

    Mind
    Может ради пустого места в индексах и можно заморочиться, но не ради фрагментации как таковой. Пустое место критично хотя бы, потому что память занимает.

    Тут я с Вами солидарен. Из этих соображений я и добавил отдельную колонку Unused Place по которой можно быстро найти индексы, где много свободного места.

    Mind
    Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    Идея и вправду хорошая. Когда будет командная строка, то можно будет добавить опцию "показывать индексы, где много свободного места" и задавать какой-то %.
  • 7 май 19, 00:41    [21879492]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Неплохо, но есть и фигня вообще-то
    Log folder: C:\WINDOWS\system32

    Неплохо бы сделать так:
    1. настраивать в приложении есть ли лог, куда лог и т.д.
    2. показывать лог в приложении, а не искать потом х.п. где
    3. сделать лог как, например, сделано в log4net, тогда можно настроить хоть в сеть, хоть в файлы и т.д.

    Попытался подсунуть битую базу, он смог вытащить 3 записи об индексах в грид, а реально там сотня.
    Может были ошибки, так не видно.
    7 май 19, 16:18    [21880129]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Andrey Sribnyak
    Member

    Откуда: Киев
    Сообщений: 585
    Сергей, полезная утилита.

    Можно ли задать Fillfactor?
    7 май 19, 17:44    [21880219]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Andrey Sribnyak, как бы вы пользовались этой фичей? Есть мысль добавить возможность при любом ребилде задавать свой уровень филл фактора и, отдельно, чтобы была возможность его в 0 выставлять. Сейчас мы просто наследуем настройки сервера.
    7 май 19, 19:17    [21880318]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    komrad
    Mind
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    это, кстати, хорошая мысль - реорганизация горячих таблиц/индексов

    Я вижу как минимуму несколько плюсов:
    1. Легко получить данные по свободному месту, все что нужно уже в памяти. Не нужно сканировать таблицы, пусть даже и в sample (что я так подозреваю тул и делает) создавая тем самым лишнюю рандомную IO нагрузку
    2. Обрабатываем только то что обычно попадает в память. Лопатить то что большую часть времени лежит на диске смысла особого нет
    3. Если делать реорганизацию сразу то она должна быть существенно дешевле потому что часть данных уже в памяти.
    7 май 19, 22:25    [21880430]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    tunknown
    Member

    Откуда:
    Сообщений: 647
    Sergey Syrovatchenko
    Сейчас мы просто наследуем настройки сервера.
    И это верно.

    Могу предложить сырую идею. Мастер вычисления филлфактора. Для кластерного суррогатного наиболее вероятно- 100%. Для остальных попытаться вычислить исходя:
  • из отсутствия записей- активность delete;
  • из распределения существующих полей датывремени (догадываясь о возможных default=getdate) и/или timestamp активность update;
  • из типов данных, например, учитывая "произвол" гуидов.

    Можно даже спросить у пользователя, какие поля преимущественно равномерно возрастают исходя из бизнес-процессов.
  • 8 май 19, 09:41    [21880656]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.33:

  • Добавил экспорт результатов в Excel, CSV и TXT
  • Возможность при ребилде сбрасывать FILLFACTOR в 0
  • Добавил новые колонки с полезной информацией об индексах
  • Кастомизация интерфейса

    Картинка с другого сайта.

    Ролг Хупин
    Попытался подсунуть битую базу, он смог вытащить 3 записи об индексах в грид, а реально там сотня.
    Может были ошибки, так не видно.

    Добавил обработку ошибок. Если есть возможность скинуть для тестов битую базу, то буду благодарен.

    Ролг Хупин
    настраивать в приложении есть ли лог, куда лог и т.д.

    Постараюсь в скором времени сделать.
  • 8 май 19, 11:16    [21880772]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko,

    не могу дать битую базу, Заратустра не позволяет, база клиентская.
    Но вы можете сделать из своей рабочей битую, это делается не сложно.
    8 май 19, 11:25    [21880787]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Ролг Хупин, а какого рода страницы были побиты в Вашей базе? Только INROW? Или еще были затронуты PSF и тд?
    8 май 19, 11:28    [21880791]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    Sergey Syrovatchenko,

    Сергей, здорово, спасибо, класс!
    Поддержка командной строки была бы очень в тему, что можно было бы создавать агент-джобы, и при наличии сайлент-режима работы приложения, - зашедулить эти вызовы приложения с параметрами на перманентной основе

    P.S. - не рассматривали кстати в плане определенного конкурента по maintenance'у индексов и прочего и такой солюшн - Ola Hallengren's "Maintenance Solution"?

    https://ola.hallengren.com/
    8 май 19, 13:31    [21880966]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    PsyMisha
    P.S. - не рассматривали кстати в плане определенного конкурента по maintenance'у индексов и прочего и такой солюшн - Ola Hallengren's "Maintenance Solution"?

    https://ola.hallengren.com/


    имхо, они не конкуренты - здесь бинарник и правит программист, у Ол(-ы/-и) t-sql код, который может допилить под собственные нужды даже ДБА

    кстати, Sergey Syrovatchenko, а как с параллельной работой этого приложения?
    допустим, случай когда два экземпляра gui/commandline обрабатывают одну базу одновременно (в силу разных причин)?
    8 май 19, 13:38    [21880979]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    как с параллельной работой этого приложения?
    допустим, случай когда два экземпляра gui/commandline обрабатывают одну базу одновременно (в силу разных причин)?

    Если мы говорим о сканирование индексов на предмет фрагментации, то запросы друг друга не блокируют. А вот если брать обслуживание, то блокировки будут (Sch-M чаще всего, когда пытаемся один и тот же индекс обслуживать).
    Также не забываем о Sch-S, когда мы не можем ничего делать с индексом до тех пор пока из него происходит чтение каким-либо запросом.
    8 май 19, 13:51    [21881000]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Есть еще пара идей.

    Сейчас список индексов мы получаем полностью без проверки на то если ли права эти индексы обслуживать.
    Добавить ли опцию "показывать только обьекты на которые есть права"?

    Нужно ли добавить возможность "отключать индекс"?
    Скажем если мы видим что индекс не используется на основе данных с sys.dm_db_index_usage_stats.
    То как это вьюха работает уже другой вопрос.
    8 май 19, 14:00    [21881026]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    komrad
    имхо, они не конкуренты - здесь бинарник и правит программист, у Ол(-ы/-и) t-sql код, который может допилить под собственные нужды даже ДБА


    нуу, вопрос открытости - он скорее вещь интимная, скажем, по-сути - для пользователя не важно, что скрыто за блэк-боксом, главное, что есть функционал А с параметрами Б, который надо запустить для получения результата С

    В плане графической привлекательности - все здорово, такие кейсы тоже есть когда надо наглядно продемонстрировать, обосновать этапы/выбор работ и визуально все в красивую обёртку завернуть
    Но множество работ по реальной поддержке - именно сайлент-режим, без гуёв, чтоб оно работало, оперделяло степень фрагментированности, и некий, скажем а-ля искусственный интеллект, который на основании данных на вход генерит динамический код на выполнение с учётом предшествующего анализа

    В этом ракурсе, не интерактивном использовании, - считаю будущий режим командной строки и решение Ola конкурентами
    8 май 19, 14:36    [21881105]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha,

    автор
    по-сути - для пользователя не важно, что скрыто за блэк-боксом, главное, что есть функционал А с параметрами Б

    потом просыпается секьюрити и здравый смысл с вопросом, а что ей запретит сделать, что угодно
    8 май 19, 14:41    [21881114]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    А что помешает, в таком случае, в обычный сиквельный джоб или план обслуживания из коробки - внедрить скрипт, или вызов батника, или powerShell'а, или .NET-модуля, который имперсонируя контекст безопасности службы sql-agent'а творить все, что только душа пожелает на локальной и/или удаленной машинах/сети?
    8 май 19, 14:45    [21881118]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha
    TaPaK,

    А что помешает, в таком случае, в обычный сиквельный джоб или план обслуживания из коробки - внедрить скрипт, или вызов батника, или powerShell'а, или .NET-модуля, который имперсонируя контекст безопасности службы sql-agent'а творить все, что только душа пожелает на локальной и/или удаленной машинах/сети?

    что за бред я прочитал
    8 май 19, 14:46    [21881120]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    ахахах, всмысле?? :)

    я десятки раз, и не только я - делал автомейшен, используя сиквел и его джобы с шагами - как оркестратор и дёргалку различных модулей на любых доступных ЯП внутри сиквела и во внешнем мире
    и не только я лично вызывал батники из джоба, это вообще-то встроенный и штатный функционал продукта, ка и всякие xp_cmdshell

    Предлагаю оставить на данный момент вопрос целесообразности и дизайна - случаи бывают разные :)
    Главное - что технически возможность есть, и она не прикрыта

    Да и Ola тот же - может через sqlcmd работать, или все тоже так скажем API через хранимые процедуры
    8 май 19, 14:50    [21881130]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha
    TaPaK,

    ахахах, всмысле?? :)

    я десятки раз, и не только я - делал автомейшен, используя сиквел и его джобы с шагами - как оркестратор и дёргалку различных модулей на любых доступных ЯП внутри сиквела и во внешнем мире
    и не только я лично вызывал батники из джоба, это вообще-то встроенный и штатный функционал продукта, ка и всякие xp_cmdshell

    Предлагаю оставить на данный момент вопрос целесообразности и дизайна - случаи бывают разные :)
    Главное - что технически возможность есть, и она не прикрыта

    Да и Ola тот же - может через sqlcmd работать, или все тоже так скажем API через хранимые процедуры

    что за бред часть 2.

    Вас дружно спустят в подвал и "ахха" будет иметь несколько другой тон, коробка с доступом уровня управления сервером под это будут подписываться или дети или производитель коробки будет иметь достаточно серъёзную репутацию и возможности связанные как договорами так и юридическими последствиями
    8 май 19, 14:55    [21881138]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    Да, окей, спасибо, благодарю за мнение, всех благ, ну и т.д. и т.п.
    8 май 19, 14:56    [21881141]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK
    коробка с доступом уровня управления сервером под это будут подписываться или дети или производитель коробки будет иметь достаточно серъёзную репутацию и возможности связанные как договорами так и юридическими последствиями


    Ну и все же, возвращаясь к вопросу секурности - никто же не говорит что нужно давать права enterprise-админа учётке, из под которой ранятся сиквельные службы? Все по правилам и гайдам Microsoft - права пользователя в ОС, необходимые вручную заданные разрешения в локальной GPO на закрепление страниц в памяти и прочее, NTFS-права на папки с базами, на сетевые шары

    И что реально плохого в том, что есть, скажем, составной сиквельный джоб, в котором на шаге №2 надо отпарсить CSV-файлы при помощи T-SQL (не криминал, надеюсь, в вашем представлении, кстати?), соответственно на шаге №1 мы вызываем cmd для того, чтоб скопировать эти файлы из удаленной шары на, к примеру, локальную машину в stage-область, и сделать это именно при помощи шага уровня MSSQL agent job? Или надо переложить этот шаг на уровень внешнего модуля, - к примеру виндового джоба? Который будет синхронизирован по времени с сиквельным? И заранее еще, чтоб мало-ли по сети будет задержка и чтобы сиквельный джоб не начался раньше или во время процесса копирования? И потом еще синхронизацию и condition-логику между ними?
    Вот это реально хреновый дизайн, сложно поддерживать, документировать и прочее
    8 май 19, 15:13    [21881182]     Ответить | Цитировать Сообщить модератору
    Топик располагается на нескольких страницах: [1] 2 3 4 5 6   вперед  Ctrl      все
    Все форумы / Microsoft SQL Server Ответить