Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Microsoft SQL Server Новый топик    Ответить
Топик располагается на нескольких страницах: 1 2 3 4 5 6      [все]
 SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
Sergey Syrovatchenko
Member

Откуда: Харьков
Сообщений: 80
Так уж исторически сложилось, что долгое время участвовал в разработке системных тулов для обслуживания SQL Server.
За это время накопилось много идей и на определенном этапе захотелось сделать что-то свое.

В результате получилось приложение, которое позволяет обслуживать индексы через удобный UI.
За основных конкурентов брались платные аналоги от компаний RedGate / Devart (155 $ / 99 $ на текущий момент).

Ключевые особенности SQL Index Manager (1.0.0.31):

  • Оптимизированный алгоритм получения фрагментированных индексов * * *
  • Возможность обслуживания нескольких баз данных за раз
  • Автоматический выбор действия для индексов исходя из выбранных настроек
  • Поддержка глобального поиска и сложной фильтрации для более удобной аналитики
  • Большое число настроек и полезной информации об индексах
  • Автоматическая генерация скриптов по обслуживанию индексов
  • Поддержка обслуживания кучи и колумнсторов
  • Возможность включать сжатие индексов и обновление статистики вместо ребилда
  • Поддержка всех редакций SQL Server 2008+ и Azure SQL Database

    * * *
    RedGate SQL Index Manager v1.1 работает простым перебором, т. е. получает весь список индексов.
    Потом в цикле отправляет запрос на получения уровня фрагментации для каждого индекса.
    В итоге если база удаленная и содержит много мелких индексов, то это может затянуться на долгое время.

    dbForge Index Manager for SQL Server v1.10.27 от Devart получает все большой охапкой.
    Затем уже на клиенте отфильтровывает лишнее. Как минус всегда будут лишние дисковые операции при сканировании индексов.
    Не скажу, что это совсем уж плохо, потому что можно лучше...

    Исходя из того, что данные в sys.dm_db_index_physical_stats не кешируется SQL Server на постоянной основе,
    минимизирование физических чтений при получении фрагментации индексов было одной из приоритетных задач при разработке.

    В итоге разделил механизм дескрайба на две части: одним запросом получаю фрагментацию по мелким индексам и потом
    дополучаю информацию по большим индексам при этом не сканируя те, которые не подпадают под текущие условия фильтрации.

    В ближайших планах добавить:

  • Поддержку командной строки
  • Получение более глубокой информации об индексах
  • Возможность экспорта результатов
  • Кастомизация интерфейса

    На данный момент и в дальнейшем, SQL Index Manager полностью бесплатный.

    Последнюю версию приложения можно скачать по этой ссылке, а все исходники лежат на GitHub.

    Картинка с другого сайта.

    Картинка с другого сайта.

    Продукт хочется развивать и делать более функциональным, поэтому буду рад критике и предложениям.
    Пишите или в этот топик или по почте, который указан в профиле.
  • 6 май 19, 15:42    [21879074]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Гавриленко Сергей Алексеевич
    Member

    Откуда: Moscow
    Сообщений: 36269
    +
    [ 17:19:48.733 ] Log folder: D:\Distr\SQLIndexManager
    [ 17:20:02.830 ] Current host: xxx | SQL Server 2016 SP2 (13.0.5153.0) Enterprise Edition: Core-based Licensing (64-bit)
    [ 17:20:03.088 ] Elapsed time: 00:00:00:237. Refresh databases failed
    Arithmetic overflow error converting expression to data type int.
    6 май 19, 17:41    [21879227]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Sergey Syrovatchenko,

    А что кто то еще дефрагментирует индексы? А зачем? Еще и тул для этого писать. Создавать лишнюю нагрузку во время получения данных о фрагментации, а потом еще во время ребилда генерить кучу логов и потенциально отправлять их на secondary сервера. И все ради того чтобы получить чуть чуть лучше перформанс?

    Может ради пустого места в индексах и можно заморочиться, но не ради фрагментации как таковой. Пустое место критично хотя бы потому что память занимает.
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.
    6 май 19, 22:23    [21879429]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Mind
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    это, кстати, хорошая мысль - реорганизация горячих таблиц/индексов
    6 май 19, 23:42    [21879464]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.32:

  • Исправлена ошибка "Arithmetic overflow error converting expression to data type int" при получении списка баз
  • Возможность кастомизации грида (скрывать/показывать столбцы и менять их расположение)

    Mind
    Может ради пустого места в индексах и можно заморочиться, но не ради фрагментации как таковой. Пустое место критично хотя бы, потому что память занимает.

    Тут я с Вами солидарен. Из этих соображений я и добавил отдельную колонку Unused Place по которой можно быстро найти индексы, где много свободного места.

    Mind
    Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    Идея и вправду хорошая. Когда будет командная строка, то можно будет добавить опцию "показывать индексы, где много свободного места" и задавать какой-то %.
  • 7 май 19, 00:41    [21879492]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Неплохо, но есть и фигня вообще-то
    Log folder: C:\WINDOWS\system32

    Неплохо бы сделать так:
    1. настраивать в приложении есть ли лог, куда лог и т.д.
    2. показывать лог в приложении, а не искать потом х.п. где
    3. сделать лог как, например, сделано в log4net, тогда можно настроить хоть в сеть, хоть в файлы и т.д.

    Попытался подсунуть битую базу, он смог вытащить 3 записи об индексах в грид, а реально там сотня.
    Может были ошибки, так не видно.
    7 май 19, 16:18    [21880129]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Andrey Sribnyak
    Member

    Откуда: Киев
    Сообщений: 585
    Сергей, полезная утилита.

    Можно ли задать Fillfactor?
    7 май 19, 17:44    [21880219]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Andrey Sribnyak, как бы вы пользовались этой фичей? Есть мысль добавить возможность при любом ребилде задавать свой уровень филл фактора и, отдельно, чтобы была возможность его в 0 выставлять. Сейчас мы просто наследуем настройки сервера.
    7 май 19, 19:17    [21880318]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    komrad
    Mind
    Можно чтобы тул делал так? Несколько раз в течение дня опрашивал буферы дынных и записывал в каких индексах много пустого места, а потом во время maintenance window их реорганизовывал.

    это, кстати, хорошая мысль - реорганизация горячих таблиц/индексов

    Я вижу как минимуму несколько плюсов:
    1. Легко получить данные по свободному месту, все что нужно уже в памяти. Не нужно сканировать таблицы, пусть даже и в sample (что я так подозреваю тул и делает) создавая тем самым лишнюю рандомную IO нагрузку
    2. Обрабатываем только то что обычно попадает в память. Лопатить то что большую часть времени лежит на диске смысла особого нет
    3. Если делать реорганизацию сразу то она должна быть существенно дешевле потому что часть данных уже в памяти.
    7 май 19, 22:25    [21880430]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    tunknown
    Member

    Откуда:
    Сообщений: 647
    Sergey Syrovatchenko
    Сейчас мы просто наследуем настройки сервера.
    И это верно.

    Могу предложить сырую идею. Мастер вычисления филлфактора. Для кластерного суррогатного наиболее вероятно- 100%. Для остальных попытаться вычислить исходя:
  • из отсутствия записей- активность delete;
  • из распределения существующих полей датывремени (догадываясь о возможных default=getdate) и/или timestamp активность update;
  • из типов данных, например, учитывая "произвол" гуидов.

    Можно даже спросить у пользователя, какие поля преимущественно равномерно возрастают исходя из бизнес-процессов.
  • 8 май 19, 09:41    [21880656]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.33:

  • Добавил экспорт результатов в Excel, CSV и TXT
  • Возможность при ребилде сбрасывать FILLFACTOR в 0
  • Добавил новые колонки с полезной информацией об индексах
  • Кастомизация интерфейса

    Картинка с другого сайта.

    Ролг Хупин
    Попытался подсунуть битую базу, он смог вытащить 3 записи об индексах в грид, а реально там сотня.
    Может были ошибки, так не видно.

    Добавил обработку ошибок. Если есть возможность скинуть для тестов битую базу, то буду благодарен.

    Ролг Хупин
    настраивать в приложении есть ли лог, куда лог и т.д.

    Постараюсь в скором времени сделать.
  • 8 май 19, 11:16    [21880772]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko,

    не могу дать битую базу, Заратустра не позволяет, база клиентская.
    Но вы можете сделать из своей рабочей битую, это делается не сложно.
    8 май 19, 11:25    [21880787]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Ролг Хупин, а какого рода страницы были побиты в Вашей базе? Только INROW? Или еще были затронуты PSF и тд?
    8 май 19, 11:28    [21880791]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    Sergey Syrovatchenko,

    Сергей, здорово, спасибо, класс!
    Поддержка командной строки была бы очень в тему, что можно было бы создавать агент-джобы, и при наличии сайлент-режима работы приложения, - зашедулить эти вызовы приложения с параметрами на перманентной основе

    P.S. - не рассматривали кстати в плане определенного конкурента по maintenance'у индексов и прочего и такой солюшн - Ola Hallengren's "Maintenance Solution"?

    https://ola.hallengren.com/
    8 май 19, 13:31    [21880966]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    PsyMisha
    P.S. - не рассматривали кстати в плане определенного конкурента по maintenance'у индексов и прочего и такой солюшн - Ola Hallengren's "Maintenance Solution"?

    https://ola.hallengren.com/


    имхо, они не конкуренты - здесь бинарник и правит программист, у Ол(-ы/-и) t-sql код, который может допилить под собственные нужды даже ДБА

    кстати, Sergey Syrovatchenko, а как с параллельной работой этого приложения?
    допустим, случай когда два экземпляра gui/commandline обрабатывают одну базу одновременно (в силу разных причин)?
    8 май 19, 13:38    [21880979]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    как с параллельной работой этого приложения?
    допустим, случай когда два экземпляра gui/commandline обрабатывают одну базу одновременно (в силу разных причин)?

    Если мы говорим о сканирование индексов на предмет фрагментации, то запросы друг друга не блокируют. А вот если брать обслуживание, то блокировки будут (Sch-M чаще всего, когда пытаемся один и тот же индекс обслуживать).
    Также не забываем о Sch-S, когда мы не можем ничего делать с индексом до тех пор пока из него происходит чтение каким-либо запросом.
    8 май 19, 13:51    [21881000]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Есть еще пара идей.

    Сейчас список индексов мы получаем полностью без проверки на то если ли права эти индексы обслуживать.
    Добавить ли опцию "показывать только обьекты на которые есть права"?

    Нужно ли добавить возможность "отключать индекс"?
    Скажем если мы видим что индекс не используется на основе данных с sys.dm_db_index_usage_stats.
    То как это вьюха работает уже другой вопрос.
    8 май 19, 14:00    [21881026]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    komrad
    имхо, они не конкуренты - здесь бинарник и правит программист, у Ол(-ы/-и) t-sql код, который может допилить под собственные нужды даже ДБА


    нуу, вопрос открытости - он скорее вещь интимная, скажем, по-сути - для пользователя не важно, что скрыто за блэк-боксом, главное, что есть функционал А с параметрами Б, который надо запустить для получения результата С

    В плане графической привлекательности - все здорово, такие кейсы тоже есть когда надо наглядно продемонстрировать, обосновать этапы/выбор работ и визуально все в красивую обёртку завернуть
    Но множество работ по реальной поддержке - именно сайлент-режим, без гуёв, чтоб оно работало, оперделяло степень фрагментированности, и некий, скажем а-ля искусственный интеллект, который на основании данных на вход генерит динамический код на выполнение с учётом предшествующего анализа

    В этом ракурсе, не интерактивном использовании, - считаю будущий режим командной строки и решение Ola конкурентами
    8 май 19, 14:36    [21881105]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha,

    автор
    по-сути - для пользователя не важно, что скрыто за блэк-боксом, главное, что есть функционал А с параметрами Б

    потом просыпается секьюрити и здравый смысл с вопросом, а что ей запретит сделать, что угодно
    8 май 19, 14:41    [21881114]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    А что помешает, в таком случае, в обычный сиквельный джоб или план обслуживания из коробки - внедрить скрипт, или вызов батника, или powerShell'а, или .NET-модуля, который имперсонируя контекст безопасности службы sql-agent'а творить все, что только душа пожелает на локальной и/или удаленной машинах/сети?
    8 май 19, 14:45    [21881118]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha
    TaPaK,

    А что помешает, в таком случае, в обычный сиквельный джоб или план обслуживания из коробки - внедрить скрипт, или вызов батника, или powerShell'а, или .NET-модуля, который имперсонируя контекст безопасности службы sql-agent'а творить все, что только душа пожелает на локальной и/или удаленной машинах/сети?

    что за бред я прочитал
    8 май 19, 14:46    [21881120]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    ахахах, всмысле?? :)

    я десятки раз, и не только я - делал автомейшен, используя сиквел и его джобы с шагами - как оркестратор и дёргалку различных модулей на любых доступных ЯП внутри сиквела и во внешнем мире
    и не только я лично вызывал батники из джоба, это вообще-то встроенный и штатный функционал продукта, ка и всякие xp_cmdshell

    Предлагаю оставить на данный момент вопрос целесообразности и дизайна - случаи бывают разные :)
    Главное - что технически возможность есть, и она не прикрыта

    Да и Ola тот же - может через sqlcmd работать, или все тоже так скажем API через хранимые процедуры
    8 май 19, 14:50    [21881130]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    PsyMisha
    TaPaK,

    ахахах, всмысле?? :)

    я десятки раз, и не только я - делал автомейшен, используя сиквел и его джобы с шагами - как оркестратор и дёргалку различных модулей на любых доступных ЯП внутри сиквела и во внешнем мире
    и не только я лично вызывал батники из джоба, это вообще-то встроенный и штатный функционал продукта, ка и всякие xp_cmdshell

    Предлагаю оставить на данный момент вопрос целесообразности и дизайна - случаи бывают разные :)
    Главное - что технически возможность есть, и она не прикрыта

    Да и Ola тот же - может через sqlcmd работать, или все тоже так скажем API через хранимые процедуры

    что за бред часть 2.

    Вас дружно спустят в подвал и "ахха" будет иметь несколько другой тон, коробка с доступом уровня управления сервером под это будут подписываться или дети или производитель коробки будет иметь достаточно серъёзную репутацию и возможности связанные как договорами так и юридическими последствиями
    8 май 19, 14:55    [21881138]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK,

    Да, окей, спасибо, благодарю за мнение, всех благ, ну и т.д. и т.п.
    8 май 19, 14:56    [21881141]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    PsyMisha
    Member

    Откуда: другая столица
    Сообщений: 234
    TaPaK
    коробка с доступом уровня управления сервером под это будут подписываться или дети или производитель коробки будет иметь достаточно серъёзную репутацию и возможности связанные как договорами так и юридическими последствиями


    Ну и все же, возвращаясь к вопросу секурности - никто же не говорит что нужно давать права enterprise-админа учётке, из под которой ранятся сиквельные службы? Все по правилам и гайдам Microsoft - права пользователя в ОС, необходимые вручную заданные разрешения в локальной GPO на закрепление страниц в памяти и прочее, NTFS-права на папки с базами, на сетевые шары

    И что реально плохого в том, что есть, скажем, составной сиквельный джоб, в котором на шаге №2 надо отпарсить CSV-файлы при помощи T-SQL (не криминал, надеюсь, в вашем представлении, кстати?), соответственно на шаге №1 мы вызываем cmd для того, чтоб скопировать эти файлы из удаленной шары на, к примеру, локальную машину в stage-область, и сделать это именно при помощи шага уровня MSSQL agent job? Или надо переложить этот шаг на уровень внешнего модуля, - к примеру виндового джоба? Который будет синхронизирован по времени с сиквельным? И заранее еще, чтоб мало-ли по сети будет задержка и чтобы сиквельный джоб не начался раньше или во время процесса копирования? И потом еще синхронизацию и condition-логику между ними?
    Вот это реально хреновый дизайн, сложно поддерживать, документировать и прочее
    8 май 19, 15:13    [21881182]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    zzzzzzzzzz
    Member

    Откуда:
    Сообщений: 316
    Mind
    Sergey Syrovatchenko,

    А что кто то еще дефрагментирует индексы? А зачем?


    SQL Server пофигу на все ваши ссд и видимость быстрой работы
    9 май 19, 01:24    [21881590]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    zzzzzzzzzz
    Mind
    Sergey Syrovatchenko,

    А что кто то еще дефрагментирует индексы? А зачем?


    SQL Server пофигу на все ваши ссд и видимость быстрой работы
    Пруф пожалуйста?
    9 май 19, 08:55    [21881625]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.34:

  • Добавил вывод лога в отдельном гриде
  • Возможность отключать некластерные индексы
  • Исправил мелкие ошибки при выделении

    Картинка с другого сайта.
  • 9 май 19, 09:27    [21881643]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko,
    Встретил ошибку
    автор
    Сообщение 102, уровень 15, состояние 1, строка 29
    Incorrect syntax near ')'.

    Для sys.dm_db_index_physical_stats срабатывает исключение
    автор
    The built-in function DB_ID can be specified. When using DB_ID without specifying a database name, the compatibility level of the current database must be 90 or greater.
    13 май 19, 07:30    [21882966]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    andy st, а можно узнать версию SQL Server и compatibility level. Как я понял это 2008R2?
    13 май 19, 09:05    [21883004]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko
    andy st, а можно узнать версию SQL Server и compatibility level. Как я понял это 2008R2?

    Microsoft SQL Server 2008 R2 (SP3) - 10.50.6529.0 (X64)   Mar 19 2015 13:19:13 
    Copyright (c) Microsoft Corporation  Enterprise Edition (64-bit) on Windows NT 5.2 <X64> (Build : ) (Hypervisor) 
    

    для проблемной базы compatibility level = 80
    13 май 19, 09:29    [21883039]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.35:

  • Исправил ошибку для SQL Server 2008: "The built-in function DB_ID can be specified. When using DB_ID without specifying a database name..."
  • Возможность задавать FILLFACTOR при ребилде индексов
  • Можно игнорировать read-only файловые группы при сканировании
  • Можно игнорировать обьекты на которые у нас нет ALTER прав

    Картинка с другого сайта.
  • 13 май 19, 11:13    [21883129]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Sergey Syrovatchenko,

    а DATA_COMPRESSION поддерживается?
    13 май 19, 11:44    [21883176]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    DATA_COMPRESSION поддерживается?

    Да. Есть возможность вручную задавать компрессию для индекса, менять ROW -> PAGE, PAGE -> ROW, убирать вовсе и тд.
    Если это колумнстор, то там есть возможность его переводить в архивную колумнстор группу для большего уровня сжатия.
    13 май 19, 11:51    [21883185]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    zzzzzzzzzz
    Member

    Откуда:
    Сообщений: 316
    Mind
    zzzzzzzzzz
    пропущено...


    SQL Server пофигу на все ваши ссд и видимость быстрой работы
    Пруф пожалуйста?


    какой именно пруф?
    подумайте/погуглите/сравните конкретно с вашим случем...
    Если индех фрагментировался по какой-либо причине оптимизатор запросов перестанет его использовать и будет вам фуллскан. Может ССД и вытянет какое-то время несмотря на увеличенный и никому не нужный обмен с диском. А так база медленно но уверенно превратится в помойку



    https://sqlperformance.com/2017/12/sql-indexes/impact-fragmentation-plans
    https://www.sqlskills.com/blogs/jonathan/does-index-fragmentation-matter-with-ssds/
    https://sqlperformance.com/2017/12/sql-indexes/impact-fragmentation-planshttps://www.sqlservercentral.com/forums/reply/1379912
    13 май 19, 18:31    [21883669]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    zzzzzzzzzz
    Member

    Откуда:
    Сообщений: 316
    +
    https://sqlperformance.com/2014/11/io-subsystem/knee-jerk-performance-tuning-just-add-ssd
    13 май 19, 18:33    [21883674]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    zzzzzzzzzz
    Mind
    пропущено...
    Пруф пожалуйста?

    Если индех фрагментировался по какой-либо причине оптимизатор запросов перестанет его использовать и будет вам фуллскан.
    Фу какой фрагментированный индекс. Я не буду его использовать.

    Для начала, на внешнюю фрагментацию оптимизатору пофигу, к тому же ему негде ее взять. Остается внутренняя или заполненность страниц. Если речь про поиск по индексу, то вообще побоку что там с заполненностью страниц. Ну будет индекс на 30% больше и что? Как это на стоимость то повлияет? Количество логических чтений то не поменяется.
    Если речь про скан индекса vs скан таблицы, то расскажите мне какая заполненность страниц должна быть у индекса чтобы он стал больше чем таблица? Даже в самом вырожденном случае если таблица очень узкая из 2х колонок, чтобы индекс стал больше таблицы заполненность должна упасть ниже 50% что по факту просто невозможно!
    14 май 19, 09:34    [21884060]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    zzzzzzzzzz
    https://sqlperformance.com/2017/12/sql-indexes/impact-fragmentation-plans
    https://www.sqlskills.com/blogs/jonathan/does-index-fragmentation-matter-with-ssds/
    https://sqlperformance.com/2017/12/sql-indexes/impact-fragmentation-planshttps://www.sqlservercentral.com/forums/reply/1379912
    Самый первый комментарий от весельчака Брента порадовал: "the fragmented query runs FASTER, not slower"

    Вторая ссылка, для вырожденного примера с равнораспределенным ключем и сканом таблицы: " The actual runtimes of the two tests were nearly identical, and often flipped back and forth between which one took a few milliseconds longer than the other to complete for this demo. "
    Возможно если база используется как data warehouse и в ней много сканов то может иметь смысл дефрагментировать, но не для OLTP нагрузки.

    Аргументы Пола по сути противоречат друг другу:
    "1. SSDs in no way stop the cause of index fragmentation: page splits from pages needing free space for a random insert or row size increase. A page split generates the same amount of transaction log, resource usage, and potential thread waits regardless of where the data/log files are stored.
    2. Index fragmentation includes having many data/index pages with low page density (i.e. lots of empty, free space). Do you really want your expensive SSDs storing lots of empty space? SSDs don’t help here at all."
    Чтобы избавиться от #1 (page splits) нужно по сути делать ребилд с fillfactor ниже 100, но сколько? 95, 90, 80? Если сделать слишком высокий то страницы быстро заполнятся и пойдут опять таки page splits, а если низкий, то чем ниже мы делаем fillfactor, тем сильнее получается фрагментация сразу после дорогостоящей операции ребилда! И таким образом получаем таки "low page density" прям по #2. Ну или я не так его понял.

    Я не против обслуживания индексов как такового, я просто про то что в большинстве случаев ребилды всего подряд по бездумному правилу 5% - 30% не имеют особого смысла.
    14 май 19, 10:12    [21884094]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Александр Гладченко
    Member

    Откуда:
    Сообщений: 10679
    Блог
    Добавьте ещё большой и красный баннер перед началом работы, что если данные на SSD ни в коем случае не делать REBUILD. Это совершенно напрасная операция (ввиду алгоритмов рассеяния блоков в логике работы SSD), которая приводит только к преждевременному исчерпанию ресурса диска.
    После ребилда нужно делать обновление статистики.
    14 май 19, 12:08    [21884249]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Александр Гладченко
    После ребилда нужно делать обновление статистики.

    Это вы в контексте того, что после ребилда делается FULL обновление статистики, а нужно делать какое-то другое?
    14 май 19, 12:52    [21884310]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Александр Гладченко
    Member

    Откуда:
    Сообщений: 10679
    Блог
    Sergey Syrovatchenko,
    Я про это: https://blogs.msdn.microsoft.com/psssql/2015/03/06/does-rebuild-index-update-statistics/
    14 май 19, 13:33    [21884365]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Александр Гладченко, то есть необходимо предусмотреть ситуацию при ребилде кластерного индекса насильно еще обновлять все user_created и auto-created статистику на таблице?
    Опционально это сделать не проблема, но как быть тогда с секционированными таблицами?
    14 май 19, 13:38    [21884372]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Александр Гладченко
    Member

    Откуда:
    Сообщений: 10679
    Блог
    Sergey Syrovatchenko,
    Дефрагментация на листовом уровне сломает все статистики, это будет особенно заметно на больших таблицах, где даже "новомодное" автообновление статистики не спасает от проблем с правильной статистикой для оптимизатора. В таких случаях часто помогает только обновление некластерных индексов с полным сканированием.
    Секционирование вносит ещё большее разнообразие вариантов дефрагментации - будет интересно понаблюдать, как Вы с этим справитесь :) ...есть ведь ещё и фильтрованные индексы, и много чего ещё есть....
    14 май 19, 14:21    [21884449]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Александр Гладченко, исходя из такого кейса предусмотреть возможность вместе с кластерным индексом ребилдить и все некластерные?
    Если я вас правильно понял.

    Текущий функционал по обновлению статистики работает только для таблиц где нет секционирования.
    Думаю в дальшейнем можно будет заморочится и сделать все по феншую, но тут вопрос стоит ли?
    Насколько часто нужно по секциям обновлять статистику? У меня в практике такое редко было.
    Чаще всего, фильтрованную статистику только отдельно обновлял построенное по выбранным секциям.
    14 май 19, 14:28    [21884456]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Александр Гладченко
    Member

    Откуда:
    Сообщений: 10679
    Блог
    Sergey Syrovatchenko
    Александр Гладченко, исходя из такого кейса предусмотреть возможность вместе с кластерным индексом ребилдить и все некластерные?
    Если я вас правильно понял.

    Текущий функционал по обновлению статистики работает только для таблиц где нет секционирования.
    Думаю в дальшейнем можно будет заморочится и сделать все по феншую, но тут вопрос стоит ли?
    Насколько часто нужно по секциям обновлять статистику? У меня в практике такое редко было.
    Чаще всего, фильтрованную статистику только отдельно обновлял построенное по выбранным секциям.


    Я не призывал ребилдить все некластерные индексы. Речь шла о статистиках.
    Секционирование зависит от функции секционирования, а она может быть далеко не тривиальной и "работать" может не одна секция...
    В природе ещё встречаются всякие распределённые секционированные представления, что будет со статистикой на их индексах, если отребилдить кластерный, который в основе представления - задайтесь таким вопросом...
    Вопрос в том, кто будет отвечать на вопросы пользователей, когда ребилд индекса, выполненный с помощью Вашей утилиты, приведёт к простою промышленной базы? ...проконсультируйтесь на эту тему с хорошим юристом в этой области...
    14 май 19, 14:39    [21884480]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    zzzzzzzzzz
    Member

    Откуда:
    Сообщений: 316
    [quot Mind]
    >>Я не против обслуживания индексов как такового, я просто про то что в большинстве случаев ребилды всего подряд по бездумному правилу 5% - 30% не имеют особого смысла.
    Я с вами уже почти согласен :) Зависит от конкретного случая.

    zzzzzzzzzz
    . Ну будет индекс на 30% больше и что? Как это на стоимость то повлияет? Количество логических чтений то не поменяется.

    при выборе индекса опимизатор стотрит на статистику и количество страниц индекса которое вырастет при фрагментации (где-то было в ссылках выше). Само абсолютное значение фрагментации в %% не смотрит
    14 май 19, 14:53    [21884498]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    zzzzzzzzzz
    Member

    Откуда:
    Сообщений: 316
    zzzzzzzzzz
    (где-то было в ссылках выше).


    https://sqlperformance.com/2017/12/sql-indexes/impact-fragmentation-plans
    в комментариях
    14 май 19, 17:02    [21884620]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    zzzzzzzzzz
    Mind
    >>Я не против обслуживания индексов как такового, я просто про то что в большинстве случаев ребилды всего подряд по бездумному правилу 5% - 30% не имеют особого смысла.

    Я с вами уже почти согласен :) Зависит от конкретного случая.

    пропущено...

    при выборе индекса опимизатор стотрит на статистику и количество страниц индекса которое вырастет при фрагментации (где-то было в ссылках выше). Само абсолютное значение фрагментации в %% не смотрит
    Еще раз. Это имеет значение только при скане индекса, потому что только тогда нужно прочитать все страницы, следовательно оценка расчитывается как [количество страниц в индексе] * [magic number]. Если же у нас поиск, то по барабану, ибо общее количество страниц в индексе никак не учитывается, какая разницы у вас индекс 10Гб или 15Гб если вам нужно прочитать 1 строку? Возможно на маленьких индексах будет на одно нелистовое чтение больше, но это во-первых, ничтожное падение производительности, во-вторых на больших таблицах даже такой разницы не будет.

    Короче, если у вас огромное хранилище данных и много сканов, то возможно стоит дефрагментировать, лучше во время загрузки данных в то хранилище :)
    Если у вас огромная, но правильно спроектированная OLTP база, и сканов нет, то смысл создавать лишнюю нагрузку без очевидного выигрыша, особенно если это 24/7 и нет больших технических окон? Если же есть сканы, тогда возможно лишняя нагрузка от сканов перевешивает ребилды, но тоже не факт. Как было написано в одной из статей, SSD может сгладить негативный эффект от фрагментированных индексов если дисковая не сильно нагружена.
    14 май 19, 21:53    [21884807]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Тут коллега интересную идею предложил. Прикрутить конструктор условий, т.е. есть грид в котором мы задаем народ из условий и выбираем действие для исправления этой ситуации.

    Была ли такая штука полезной? Может есть идеи как по удобнее реализовать.
    15 май 19, 17:02    [21885580]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko
    Тут коллега интересную идею предложил. Прикрутить конструктор условий, т.е. есть грид в котором мы задаем народ из условий и выбираем действие для исправления этой ситуации.

    Была ли такая штука полезной? Может есть идеи как по удобнее реализовать.


    как говорят(ц) не тот народ попался в гриде
    16 май 19, 08:33    [21885850]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Ролг Хупин, реально классно что на форуме нельзя править сообщения. Иногда такие перлы попадаются )))

    Если же серьезно, то появилась идея сделать тул более функциональным и кастомизируемым.
    Планирую добавить контрол в котором можно задавать набор условий и действие которое нужно сделать над индексом, когда эти условия выполняются. В порядке определенного приоритета.

    И тут есть пара противоречий. Размер индекса (с ... по ... ) является обязательным параметром. Остальные условия можно кастомизировать.
    Нужно ли уровень фрагментации делать обязательным параметром для каждого условия?

    Примеры таких условий может кто-то предложить? Скажем когда выгоднее делать обновление статистики а не ребилд, потому что все очень сильно зависит от системы и нагрузки.
    16 май 19, 09:23    [21885890]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Sergey Syrovatchenko
    На данный момент и в дальнейшем, SQL Index Manager полностью бесплатный.
    DevExpress тоже бесплатный?

    Sergey Syrovatchenko
    Mind
    Может ради пустого места в индексах и можно заморочиться, но не ради фрагментации как таковой. Пустое место критично хотя бы, потому что память занимает.

    Тут я с Вами солидарен. Из этих соображений я и добавил отдельную колонку Unused Place по которой можно быстро найти индексы, где много свободного места.

    UnusedPagesCount = CASE WHEN ABS(a.ReservedPages - a.UsedPages) > 32 THEN a.ReservedPages - a.UsedPages ELSE 0 END
    

    Как у вас хитро количество неиспользуемых страниц превращается в неиспользуемое индексное пространство.
    Да мне как то по барабану сколько там пустых страниц в индексе, они то ну вообще никак не влияют ни на скорость выполнения запросов ни на количество используемой памяти. Дефрагментировать по этому признаку это все равно что ногти подстригать чтобы гимморой вылечить.

    Sergey Syrovatchenko
    Нужно ли уровень фрагментации делать обязательным параметром для каждого условия?
    Можно по fill factor (avg_page_space_used_in_percent) ребилдить, не обязательно по фрагментации. Но у вас его нету, да и считать затратно.

    Sergey Syrovatchenko
    Скажем когда выгоднее делать обновление статистики а не ребилд, потому что все очень сильно зависит от системы и нагрузки.
    Это так то вообще не взаимозаменяемые операции. Статистику надо всегда пересчитывать, кроме особо экзотических случаев.

    Sergey Syrovatchenko
    Примеры таких условий может кто-то предложить?
    В том то и проблема, иметь такую функциональность конечно хорошо, но вот кто и как ею будет пользоваться? Если бы тул сам на основе анализа предыдущих ребилдов, потраченного времени, фрагментации до и после, периодичности ребилдов, статистики использования индексов и прочих разных данных предлагал бы правила и опции ребилда и как часто и когда его лучше делать, то был бы смысл. А так, кто все эти правила будет настраивать и кто гарантирует что они оптимальные? Это либо пальцем в небо, либо нужно потратить кучу времени на весь этот анализ вручную. А выхлоп какой? Будет ли разница по сравнению с таким подходом, или тупым в лоб или вообще без всякого ребилда? Как эту разницу измерять? В том что уменьшится количество page splits?
    Вот скажем та же опция задавать fill factor вручную. Для 95% индексов самый лучший fill factor это дефолтный. Ребилдить все с fill factor = 80 это несусветная глупость. Для того чтобы настроить fill factor для каждого индекса индивидуально нужно потратить кучу времени. Есть ли смысл это делать?
    16 май 19, 23:34    [21886700]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Mind
    DevExpress тоже бесплатный?

    Я вроде DevEx еще никому не впаривал :)

    У самого есть лицензия (правда старая). Тем более на библиотеки не распространяются ограничения если продукт был сделан на основе лицензии.
    Тем кому эти компоненты не нравятся можно прикрутить хоть WPF хоть что угодно другое.
    К слову это тоже в будующих планах - свои контролы сделать.
    17 май 19, 09:02    [21886840]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko
    Mind
    DevExpress тоже бесплатный?

    Я вроде DevEx еще никому не впаривал :)

    У самого есть лицензия (правда старая). Тем более на библиотеки не распространяются ограничения если продукт был сделан на основе лицензии.
    Тем кому эти компоненты не нравятся можно прикрутить хоть WPF хоть что угодно другое.
    К слову это тоже в будующих планах - свои контролы сделать.


    От DevEx надо избавляться, тем более, что приложение мало контролов использует, грид, еще 2-3.
    Можно прикрутить, что-то простое и бесплатное.
    17 май 19, 12:12    [21887105]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Ролг Хупин
    От DevEx надо избавляться

    Увы, тут вы правы. Не все вещи в DevEx хорошие. Возможно в будующем как коммандную строку сделаю, то на WPF переведу проект.
    17 май 19, 13:03    [21887176]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Sergey Syrovatchenko
    Mind
    DevExpress тоже бесплатный?

    Я вроде DevEx еще никому не впаривал :)

    У самого есть лицензия (правда старая).
    Я за вас рад...
    17 май 19, 18:28    [21887550]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    TaPaK
    Member

    Откуда: Kiev
    Сообщений: 6376
    Mind,

    Так и не понял чем плох devexpres... Немного используем telerik под win и web. Лицензия все позволяет
    17 май 19, 18:33    [21887555]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    TaPaK
    Mind,

    Так и не понял чем плох devexpres... Немного используем telerik под win и web. Лицензия все позволяет
    Так он бесплатный или нет? Мне лицензию нужно покупать чтобы скомпилировать бесплатную программу? Или мне все переписывать?
    17 май 19, 19:13    [21887581]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Mind, никаких лицензий не нужно. Я специально все нужные либы приложил, чтобы можно было скомпилить прогу. Сорри, я просто вначале не понял вашего вопроса относительно DevEx.
    17 май 19, 19:43    [21887591]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.36:

  • Добавил новые поля в гриде (операции Seeks/Scans/Lookups в разрезе индекса)
  • При выборе баз показывается Recovery Model в гриде
  • Возможность автоматически задавать DATA_COMPRESSION для индексов при ребилде
  • Возможность фильтрации скана только по выбранным схемам
  • Фикс при фильтрации не учитывались схемы с юникодными именами

    Картинка с другого сайта.

    Отдельно вопрос. Нужно ли показывать инфу о том какие индексы имеют статус NORECOMPUTE?
  • 19 май 19, 15:57    [21888228]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko,
    первое-программа просто бомба, применяю на работе как контроль над автоматизированными методами оптимизации статистик

    Детальный разбор самого проекта, а также его работа через профайлер показал следующие моменты:
    1) в запросе:
    SELECT * FROM sys.databases WHERE DB_NAME() not in ('master', 'tempdb', 'model', 'msdb', 'mssqlsystemresource');
    нужно DB_Name() сменить на [name]:
    SELECT * FROM sys.databases WHERE [name] not in ('master', 'tempdb', 'model', 'msdb', 'mssqlsystemresource');
    в связи с ошибкой в коде происходит обслуживание и системных БД

    2) в запросе:
    IF OBJECT_ID(''tempdb.dbo.#AllocationUnits'') IS NOT NULL
    DROP TABLE #AllocationUnits

    CREATE TABLE #AllocationUnits (
    ContainerID BIGINT PRIMARY KEY
    , ReservedPages BIGINT NOT NULL
    , UsedPages BIGINT NOT NULL
    )

    INSERT INTO #AllocationUnits (ContainerID, ReservedPages, UsedPages)
    SELECT [container_id]
    , SUM([total_pages])
    , SUM([used_pages])
    FROM sys.allocation_units WITH(NOLOCK)
    GROUP BY [container_id]
    HAVING SUM([total_pages]) BETWEEN @MinIndexSize AND @MaxIndexSize;

    скорее всего нужно учитывать неудаленные, т е у которых [type]<>0
    источник: https://docs.microsoft.com/ru-ru/sql/relational-databases/system-catalog-views/sys-allocation-units-transact-sql?view=sql-server-2017

    больше вопросов не возникло и проблем не обнаружил

    Теперь пожелания:
    1) сделать возможным обслуживание системных БД (master, msdb)
    2) сделать возможным выборочно обновлять статистики не только для индексов и также разными способами (полностью обновлять или частично)
    3) сделать возможным не только выбирать БД, но и разные сервера (это очень удобно, когда много экземпляров скулей).

    Также скачанный проект не компилируется, выдавая код ошибки, который расшифровывается как проблема с лицензией компонентов DevExpress
    22 май 19, 17:09    [21891022]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko,

    и еще хорошо бы аналогичное по анализу и оптимизации существующих статистик
    22 май 19, 17:09    [21891025]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    ЕвгенийGEM
    SELECT * FROM sys.databases WHERE DB_NAME() not in ('master', 'tempdb', 'model', 'msdb', 'mssqlsystemresource');

    Запрос точно не мой :)

    У меня в коде базы получаются так:

    SELECT DatabaseName = t.[name]
         , d.DataSize
         , d.LogSize
         , RecoveryModel = t.recovery_model_desc
    FROM sys.databases t WITH(NOLOCK)
    LEFT JOIN (
        SELECT [database_id]
             , DataSize = SUM(CASE WHEN [type] = 0 THEN CAST(size AS BIGINT) END)
             , LogSize  = SUM(CASE WHEN [type] = 1 THEN CAST(size AS BIGINT) END)
        FROM sys.master_files WITH(NOLOCK)
        GROUP BY [database_id]
    ) d ON d.[database_id] = t.[database_id]
    WHERE t.[state] = 0
        AND t.[database_id] != 2
        AND ISNULL(HAS_DBACCESS(t.[name]), 1) = 1
    

    ЕвгенийGEM
    скорее всего нужно учитывать неудаленные, т е у которых [type]<>0

    Замечание важное. Погляжу как это затрагивает мою текущую логику

    ЕвгенийGEM
    сделать возможным обслуживание системных БД (master, msdb)

    То есть обслуживать системные обьекты? Потому как пользовательские обьекты в системных базах обслуживать можно.

    ЕвгенийGEM
    сделать возможным выборочно обновлять статистики не только для индексов и также разными способами (полностью обновлять или частично)

    В ближайших планах что-то сделать в этом направлении. Есть идея показывать статистику просто как отдельную строку и фильтровать по степени устаревания и тому сколько изменений было на уровне индекса.

    ЕвгенийGEM
    сделать возможным не только выбирать БД, но и разные сервера (это очень удобно, когда много экземпляров скулей).

    Увы это пока реализовать быстро не получится, но на перспективу учтем.

    ЕвгенийGEM
    выдавая код ошибки, который расшифровывается как проблема с лицензией компонентов DevExpress

    Можно точное сообщение об ошибке показать. У меня просто с таким проблем не было на 2017й студии.
    22 май 19, 17:27    [21891052]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko, трассировка запускалась на изолированной среде, чтобы как раз исследовать все запросы от Вашей тулзы.
    Потому все запросы от Вашей тулзы)
    Лучше на Core переписать.
    А в будущем сделать платную ветвь в стиле сервер-клиент на ASP.NET Core, куда добавить мониторинг подобный Spotlight и даже лучше)
    Но вообще за тулзу больфуфий респект!)
    Предлагаю код ошибки и прочие детали в личке обсудить
    22 май 19, 21:43    [21891282]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko, еще вспомнил-лучше отсеивать отключенные индексы и те базы, которые недоступны на редактированине (как в целом БД, так и отдельный ее файл).
    Не помню было ли в коде этл учтено.
    И еще пока не разглядел-если индекс секционированный, то есть возможность выбирать какие секции и что с каждым делать и каким образом делать?
    22 май 19, 22:30    [21891312]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko, на счет фильтруемых индексов. Достаточно часто встречал, когда фильтруемый индекс непросто не используется оптимизатором, а даже через подсказки не может план построить и вылетает ошибка выполнения запроса. Аналогично и фидьтрация репликации слияния.
    Потому уже выработался инстинкт-никаких фильтруемых индексов и реплик.
    Надо-отдельная табдица или секции.
    А для сложной и устойчивой реплики обычно используют сторонние тулзы или при возможности свою пилят (если конечно AlwaysOn недоступен или его недосиаточно по каким-то условиям)
    22 май 19, 23:38    [21891360]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    SELECT DB_NAME() as DB,
    o.name AS ObjectName
    , i.name AS IndexName
    , i.index_id AS IndexID
    , dm_ius.user_seeks AS UserSeek
    , dm_ius.user_scans AS UserScans
    , dm_ius.user_lookups AS UserLookups
    , dm_ius.user_updates AS UserUpdates
    ,last_user_seek
    ,last_user_scan
    ,last_user_lookup
    , p.TableRows
    , 'DROP INDEX ' + QUOTENAME(i.name)
    + ' ON ' + QUOTENAME(s.name) + '.' + QUOTENAME(OBJECT_NAME(dm_ius.OBJECT_ID)) AS 'drop statement'
    FROM sys.dm_db_index_usage_stats dm_ius
    INNER JOIN sys.indexes i ON i.index_id = dm_ius.index_id AND dm_ius.OBJECT_ID = i.OBJECT_ID
    INNER JOIN sys.objects o ON dm_ius.OBJECT_ID = o.OBJECT_ID
    INNER JOIN sys.schemas s ON o.schema_id = s.schema_id
    INNER JOIN (SELECT SUM(p.rows) TableRows, p.index_id, p.OBJECT_ID
    FROM sys.partitions p GROUP BY p.index_id, p.OBJECT_ID) p
    ON p.index_id = dm_ius.index_id AND dm_ius.OBJECT_ID = p.OBJECT_ID
    WHERE OBJECTPROPERTY(dm_ius.OBJECT_ID,'IsUserTable') = 1
    AND dm_ius.database_id = DB_ID()
    AND i.type_desc in('clustered', 'nonclustered')
    AND i.is_unique_constraint = 0
    --AND (o.name='EmailMessageAttachments')
    ORDER BY (dm_ius.user_seeks + dm_ius.user_scans + dm_ius.user_lookups) ASC
    Т к представление dm_db_index_usage_stats среди прочего показывает и уровни индекса.
    Т е просто по данному представлению можно получить что один и тот же индекс используется и не используется, т к вывод был для разных уровней. Сам в свое время сильно ошибся, интерпретируя неверно показатели.
    Анализ статистики завтра скину
    22 май 19, 23:45    [21891366]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    ЕвгенийGEM
    Sergey Syrovatchenko, на счет фильтруемых индексов. Достаточно часто встречал, когда фильтруемый индекс непросто не используется оптимизатором, а даже через подсказки не может план построить и вылетает ошибка выполнения запроса.
    Ну если создать неправильный индекс, а потом заставить сервер его использовать то конечно оно с ошибкой свалится.
    23 май 19, 03:03    [21891399]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    ЕвгенийGEM
    Т к представление dm_db_index_usage_stats среди прочего показывает и уровни индекса.
    Уровни? Какие еще уровни показывает это представление?
    23 май 19, 03:12    [21891400]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko, а не было мысли второй закладкой прикрутить анализ по индексам на основе sys.dm_db_missing_index_group_stats и сотоварищей?
    23 май 19, 06:15    [21891411]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    andy st
    а не было мысли второй закладкой прикрутить анализ по индексам на основе sys.dm_db_missing_index_group_stats и сотоварищей?

    Мысль была. Думаю сделать можно будет опционально:
  • В настройках добавляется опция MISSING INDEXES
  • Cканируем записи из этого представления и показываем их в том же гриде что и всю отсальную информацию
  • В отличии от обычных индексов для этой группы будет две команды CREATE INDEX / CREATE STATISTICS (потому как не всегда индекс имеет смысл создавать)
  • Будут добавлены новые колонки Index Columns / Included Columns как для существующих записей, так и для тех индексов которые представление рекомендует создать (для наглядности это думаю нужно будет)

    ЕвгенийGEM
    лучше отсеивать отключенные индексы и те базы, которые недоступны на редактированине (как в целом БД, так и отдельный ее файл).

    Отключенные индексы в итоговую выборку и так не попадают из-за условий rows > 0 + предварительной фильтрации по размеру. У отключенного индекса размера нет как такового.
    Базы которые недоступны для редактирования я тоже игнорю еще на этапе выбора за счет проверки на права + state = 0

    ЕвгенийGEM
    если индекс секционированный, то есть возможность выбирать какие секции и что с каждым делать и каким образом делать?

    Все операции делаются в разрезе секции, поэтому можно для каждой секции задать свое действие. Увы не автоматически, а ручками.

    ЕвгенийGEM
    сделать возможным выборочно обновлять статистики не только для индексов и также разными способами (полностью обновлять или частично)

    Есть идея:
  • Добавить в настройки новый тип STATISTICS
  • Показывать в том же гриде статистику где и индексы выводятся
  • Фильтровать статистику с сервера на клиент на основе устаревания (то есть выведи мне все что старее н-дней) либо показывать где статистика не совпадает с текущим кол-во строк у таблицы
  • Будет показываться как статистика закрепленная за индексом (есть проблема с автоинкрементальной), так и пользовательская
  • Если вдруг мы делаем ребилд индекса и выбрали дальше еще апдейт статистики с фуллсканом то обновление статистики делаться не будет (то есть нужно будет предусмотреть чтобы лишних операций не было)

    Примерно как-то так это себе вижу. Получится правда монстр зато весьма функциональный.
    Пока не начал делать хотелось бы мнение комьюнити спросить.
  • 23 май 19, 10:14    [21891569]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Sergey Syrovatchenko, как и обещал-вот один из примеров обновления индексов:
    +
    declare
    	--Максимальный размер в МБ для рассматриваемого объекта
    	@ObjectSizeMB numeric (16,3) = NULL,
    	--Максимальное кол-во строк в секции
    	@row_count numeric (16,3) = NULL
    
    /*
    	тонкое обновление статистики
    */
    SET NOCOUNT ON;
    SET TRANSACTION ISOLATION LEVEL READ UNCOMMITTED;
    
       declare @ObjectID int;
    declare @SchemaName nvarchar(255);
    declare @ObjectName nvarchar(255);
    declare @StatsID int;
    declare @StatName nvarchar(255);
    declare @SQL_Str nvarchar(max);
    
    ;with st AS(
    select DISTINCT 
    obj.[object_id]
    , obj.[create_date]
    , OBJECT_SCHEMA_NAME(obj.[object_id]) as [SchemaName]
    , obj.[name] as [ObjectName]
    , CAST(
    		(
    		   --общее число страниц, зарезервированных в секции (по 8 КБ на 1024 поделить=поделить на 128)
    			SELECT SUM(ps2.[reserved_page_count])/128.
    			from sys.dm_db_partition_stats as ps2
    			where ps2.[object_id] = obj.[object_id]
    		) as numeric (38,2)
    	  ) as [ObjectSizeMB] --размер объекта в МБ
    , s.[stats_id]
    , s.[name] as [StatName]
    , sp.[last_updated]
    , i.[index_id]
    , i.[type_desc]
    , i.[name] as [IndexName]
    , ps.[row_count]
    , s.[has_filter]
    , s.[no_recompute]
    , sp.[rows]
    , sp.[rows_sampled]
    --кол-во изменений вычисляется как:
    --сумма общего кол-ва изменений в начальном столбце статистики с момента последнего обновления статистики
    --и разности приблизительного кол-ва строк в секции и общего числа строк в таблице или индексированном представлении при последнем обновлении статистики
    , sp.[modification_counter]+ABS(ps.[row_count]-sp.[rows]) as [ModificationCounter]
    --% количества строк, выбранных для статистических вычислений,
    --к общему числу строк в таблице или индексированном представлении при последнем обновлении статистики
    , NULLIF(CAST( sp.[rows_sampled]*100./sp.[rows] as numeric(18,3)), 100.00) as [ProcSampled]
    --% общего кол-ва изменений в начальном столбце статистики с момента последнего обновления статистики
    --к приблизительному количество строк в секции
    , CAST(sp.[modification_counter]*100./(case when (ps.[row_count]=0) then 1 else ps.[row_count] end) as numeric (18,3)) as [ProcModified]
    --Вес объекта:
    --[ProcModified]*десятичный логарифм от приблизительного кол-ва строк в секции
    , CAST(sp.[modification_counter]*100./(case when (ps.[row_count]=0) then 1 else ps.[row_count] end) as numeric (18,3))
    							* case when (ps.[row_count]<=10) THEN 1 ELSE LOG10 (ps.[row_count]) END as [Func]
    --было ли сканирование:
    --общее количество строк, выбранных для статистических вычислений, не равно
    --общему числу строк в таблице или индексированном представлении при последнем обновлении статистики
    , CASE WHEN sp.[rows_sampled]<>sp.[rows] THEN 0 ELSE 1 END as [IsScanned]
    , tbl.[name] as [ColumnType]
    , s.[auto_created]	
    from sys.objects as obj
    inner join sys.stats as s on s.[object_id] = obj.[object_id]
    left outer join sys.indexes as i on i.[object_id] = obj.[object_id] and (i.[name] = s.[name] or i.[index_id] in (0,1) 
    				and not exists(select top(1) 1 from sys.indexes i2 where i2.[object_id] = obj.[object_id] and i2.[name] = s.[name]))
    left outer join sys.dm_db_partition_stats as ps on ps.[object_id] = obj.[object_id] and ps.[index_id] = i.[index_id]
    outer apply sys.dm_db_stats_properties (s.[object_id], s.[stats_id]) as sp
    left outer join sys.stats_columns as sc on s.[object_id] = sc.[object_id] and s.[stats_id] = sc.[stats_id]
    left outer join sys.columns as col on col.[object_id] = s.[object_id] and col.[column_id] = sc.[column_id]
    left outer join sys.types as tbl on col.[system_type_id] = tbl.[system_type_id] and col.[user_type_id] = tbl.[user_type_id]
    where obj.[type_desc] <> 'SYSTEM_TABLE'
    )
    SELECT
    	st.[object_id]
    	, st.[SchemaName]
    	, st.[ObjectName]
    	, st.[stats_id]
    	, st.[StatName]
    	INTO #tbl
    FROM st
    WHERE NOT (st.[row_count] = 0 AND st.[last_updated] IS NULL)--если нет данных и статистика не обновлялась
    	--если нечего обновлять
    	AND NOT (st.[row_count] = st.[rows] AND st.[row_count] = st.[rows_sampled] AND st.[ModificationCounter]=0)
    	--если есть что обновлять (и данные существенно менялись)
    	AND ((st.[ProcModified]>=10.0) OR (st.[Func]>=10.0) OR (st.[ProcSampled]<=50))
    	--ограничения, выставленные во входных параметрах
    	AND (
    		 ([ObjectSizeMB]<=@ObjectSizeMB OR @ObjectSizeMB IS NULL)
    		 AND
    		 (st.[row_count]<=@row_count OR @row_count IS NULL)
    		);
    
    WHILE (exists(select top(1) 1 from #tbl))
    BEGIN
    	select top(1)
    	@ObjectID	=[object_id]
    	,@SchemaName=[SchemaName]
    	,@ObjectName=[ObjectName]
    	,@StatsId	=[stats_id]
    	,@StatName	=[StatName]
    	from #tbl;
    
    	SET @SQL_Str = 'IF (EXISTS(SELECT TOP(1) 1 FROM sys.stats as s WHERE s.[object_id] = '+CAST(@ObjectID as nvarchar(32)) + 
    					' AND s.[stats_id] = ' + CAST(@StatsId as nvarchar(32)) +')) UPDATE STATISTICS ' + QUOTENAME(@SchemaName) +'.' +
    					QUOTENAME(@ObjectName) + ' ('+QUOTENAME(@StatName) + ') WITH FULLSCAN;';
    
    	execute sp_executesql @SQL_Str;
    
    	delete from #tbl
    	where [object_id]=@ObjectID
    	  and [stats_id]=@StatsId;
    END
    
    drop table #tbl;
    

    Здесь лучше переписать на курсор, чем удалять каждый раз значение из временной таблицы, но мне было лень)
    23 май 19, 11:58    [21891729]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Гавриленко Сергей Алексеевич
    Member

    Откуда: Moscow
    Сообщений: 36269
    Модератор: ЕвгенийGEM, ваш список "аномальных" фич MSSQL и связанное с ним обсуждения я отсюда вырезаю: в этой теме неуместно. Если все еще хотите подискутировать, создайте отдельню тему, хотя я бы на вашем месте с таким уровнем аргументации "аномальности" не стал -- засмеют.
    23 май 19, 16:39    [21892268]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Гавриленко Сергей Алексеевич,
    по первому предложению полностью согласен.
    По второму может статью опубликую по багам скуля.
    P.S.: мне пофиг на чужое мнение, которое не сталкивалось с тем фактом, который я в свое время зарегистрировал
    23 май 19, 16:44    [21892283]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    ЕвгенийGEM
    Здесь лучше переписать на курсор, чем удалять каждый раз значение из временной таблицы, но мне было лень)

    не лучше
    https://www.sqlbook.com/advanced/sql-cursors-how-to-avoid-them/
    23 май 19, 16:56    [21892296]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    ЕвгенийGEM
    Гавриленко Сергей Алексеевич,
    по первому предложению полностью согласен.
    По второму может статью опубликую по багам скуля.
    P.S.: мне пофиг на чужое мнение, которое не сталкивалось с тем фактом, который я в свое время зарегистрировал



    "Баги скуля" - про собак
    23 май 19, 17:28    [21892334]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    komrad,
    в данной статье описывается блокировка на таблицу. Но если положить во временную и потом по ней курсором-это часто быстрее (по крайней мере подобное что ы привел сверху будет быстрее-проверял на других подобных запросах).
    23 май 19, 18:05    [21892373]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    komrad,
    прошу прощения-опучатался выше: вместо "по крайней мере подобное что ы привел сверху будет быстрее" надо "по крайней мере подобное что я привел сверху будет быстрее"
    23 май 19, 18:10    [21892374]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Гавриленко Сергей Алексеевич
    Модератор: ЕвгенийGEM, ваш список "аномальных" фич MSSQL и связанное с ним обсуждения я отсюда вырезаю: в этой теме неуместно. Если все еще хотите подискутировать, создайте отдельню тему, хотя я бы на вашем месте с таким уровнем аргументации "аномальности" не стал -- засмеют.
    Ну вы и party pooper. Лишили пятничного фана
    24 май 19, 22:40    [21893559]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    еще предложение-для большей гибкости в использовании предлагаю обернуть в библиотеки, и вывести в команды PowerShell, как это сделано напр здесь:
    https://dbatools.io/commands/
    30 май 19, 15:00    [21897741]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.37:

    Реализована поддержка коммандной строки
    Можно ресайзить колонки
    Мелкие улучшения в GUI

    Картинка с другого сайта.

    В ближайших планах заняться реализацией функционала по обслуживанию статистики и показывать missing indexes с возможностью их создавать.

    Еще есть идея добавить функционал по перемещению индекса в другую файловую группу при ребилде.
    Такое кому-то будет полезным?
    1 июн 19, 22:34    [21899625]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    Sergey Syrovatchenko,
    Огромное спасибо за труды!
    Дело стоящее!

    Кратко пробежался по 4-м страницам, хотелось бы увидеть небольшой help в программе. Думаю на 2-х языках вполне достаточно.

    Поставил себе, буду пробовать вникать и ждать мануальчик)
    3 июн 19, 11:43    [21900248]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Den_KP, спасибо за отзыв. Справки делать не планировал. Старался изначально, чтобы все было более-менее очевидным. Возможно в будующем добавлю.

    В планах статью написать на хабре/доу о том с каким трешом все делалось :)
    3 июн 19, 12:05    [21900283]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    Ссылочку на хабр ждем)))
    Справка просто поможет донести до аудитории все труды и что с чем едят.
    Уже первый анализ провел, запланировал задачи по нескольким БД на ночь. Правда пока что Джоб по Ola методики запущу.

    Есть маленький вопрос, возможно я упустил в переписки. Каким образом происходит rebuild кучи? что он дает?
    3 июн 19, 14:20    [21900522]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Den_KP
    Каким образом происходит rebuild кучи? что он дает?

    Как минимум он консолидирует свободное место. Плюс убирает всякие неприятные вещи вроде forwarded records:

    https://www.mssqltips.com/sqlservertip/2984/identify-and-correct-sql-server-forwarded-records/
    https://www.brentozar.com/archive/2016/07/fix-forwarded-records/
    3 июн 19, 15:11    [21900591]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Den_KP
    Ссылочку на хабр ждем)))
    Справка просто поможет донести до аудитории все труды и что с чем едят.
    Уже первый анализ провел, запланировал задачи по нескольким БД на ночь. Правда пока что Джоб по Ola методики запущу.
    Мне просто интересно, чем Ола не устраивает?
    3 июн 19, 22:35    [21900974]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    При чем тут "не устраивает", смысл фразы в том что запускается не средствами Index Manager.
    4 июн 19, 05:43    [21901074]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    Sergey Syrovatchenko,

    Спасибо за информацию!

    По результатам, ночного запуска, вижу улучшение по метрикам.

    Также за кучи отдельное спасибо, на одной коробочной базе нашел на данный момент 2 кучи, которые как оказалось очень сильно просили кластерный индекс.

    Выборка по одной таблицы всех значений занимает 1сек, вместо 2 минут 42 секунд ранее.

    Юзеры тоже заметили профит, правда Page Life Expentance сбросился, сейчас стал набирать.
    4 июн 19, 08:22    [21901130]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Den_KP
    Выборка по одной таблицы всех значений занимает 1сек, вместо 2 минут 42 секунд ранее.

    Забавный кейс. У меня такой импакт был только на колумнсторе, когда все его rowgroup'ы были открыты из-за чрезмерной модификации. Может просто данные по таблице лежали на медленной области диска? То такая статистика роста перфоманса чуток настораживает :)
    4 июн 19, 08:25    [21901134]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    Там поданный лун с массива, и диски так быстро бы не перетекли на быстрые.

    Правда я выборку делал просто всех полей, но в обоих случаях. 1-й исключая индекс, второй по умолчанию.
    4 июн 19, 09:09    [21901163]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko
    Выложил версию 1.0.0.37:

    Реализована поддержка коммандной строки
    Можно ресайзить колонки
    Мелкие улучшения в GUI

    Картинка с другого сайта.

    В ближайших планах заняться реализацией функционала по обслуживанию статистики и показывать missing indexes с возможностью их создавать.

    Еще есть идея добавить функционал по перемещению индекса в другую файловую группу при ребилде.
    Такое кому-то будет полезным?



    SQL - язык, и утилита работает только с SQL Server, лучше может назвать SQL Server Index manager
    4 июн 19, 11:00    [21901302]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Den_KP
    Member

    Откуда:
    Сообщений: 139
    Всеми руками вверх!

    Кстати хочу порекомендовать такую софтину SolarWinds DPA, там есть интересные реализации по индексам, так же очень интересно реализован просчет wait time. Может оттуда пригоядтся практики для реализации Вашей программы.
    4 июн 19, 12:04    [21901391]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Den_KP
    SolarWinds DPA, там есть интересные реализации по индексам, так же очень интересно реализован просчет wait time. Может оттуда пригоядтся практики для реализации Вашей программы.

    Это больше как монитор, в прогу не хотелось бы пихать все что только можно. В планах реально добавить обслуживание статистики и создание индексов по данным из missing indexes.

    Ролг Хупин
    SQL - язык, и утилита работает только с SQL Server, лучше может назвать SQL Server Index manager

    Замечение корректное, название по правде еще будет корректироваться.
    4 июн 19, 12:50    [21901454]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    ЕвгенийGEM
    Member

    Откуда:
    Сообщений: 93
    Mind, потому что все вроде есть готовое и шаблонное, но на деле к конкретной ситуации не самым лучшим образом подходит.
    Например, из аналитики как минимум у каждой системы будет свои определения:
    1) странные запросы, которые через какое-то время станут проблемой для других
    2) странная активность в журнале событий скуля, которые говорят о наступлении скорых проблем
    Аналогично и по индексам и как их оптимизировать и как определять что их надо оптимизировать, и какой планируемый выигрыш от этого+анализ постфактум на сколько стало хорошо.
    Аналогично и по статистикам.
    И не стоит забывать что в одной системе хорошо, для другой будет смертью.
    А готовое и шаблонное одинаково как хорошо, так и плохо для всех или большинства случаев.
    Сам Ola пользуюсь+другими решениями, но обычно на небольших системах или пока не сделал свою более оптимальную для данной системы.
    4 июн 19, 17:57    [21901786]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    northern
    Member

    Откуда:
    Сообщений: 70
    Александр Гладченко
    Sergey Syrovatchenko,
    Дефрагментация на листовом уровне сломает все статистики, это будет особенно заметно на больших таблицах, где даже "новомодное" автообновление статистики не спасает от проблем с правильной статистикой для оптимизатора. В таких случаях часто помогает только обновление некластерных индексов с полным сканированием.
    Секционирование вносит ещё большее разнообразие вариантов дефрагментации - будет интересно понаблюдать, как Вы с этим справитесь :) ...есть ведь ещё и фильтрованные индексы, и много чего ещё есть....

    Как раз сейчас разбиваем крупные таблицы на секции. MS Axapta, 24/7, бд уже больше 4ТБ, одна реплика в асинхронном режиме. По монитору активности в пик около 70 тыс пакетов/сек. Почти все таблицы имеют кластерный индекс

    Разбиваем большие таблицы по одной таблице ночью, к утру зеркало успевает догнать примари ноду. Действительно, ломаются планы. Но достаточно сделать ребилд после секционирования и планы становятся нормальными. Катастрофы не случилось. Юристы не понабились ))
    5 июн 19, 06:38    [21902063]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.38:

    Добавил возможность удалять неиспользуемые индексы
    Добавил новые столбцы, чтобы можно видеть по каким полям индекс построен
    Мелкие улучшения в GUI и багфикс

    Небольшой пример из жизни как можно новым функционалом пользоваться:

    Картинка с другого сайта.
    8 июн 19, 15:04    [21905147]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Sergey Syrovatchenko,

    неиспользуемые индексы : это с момента последнего рестарта инстанса?

    не обратил внимания: подсвечиваются ли индексы-дубликаты?
    8 июн 19, 22:33    [21905260]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    komrad
    Sergey Syrovatchenko,

    неиспользуемые индексы : это с момента последнего рестарта инстанса?

    не обратил внимания: подсвечиваются ли индексы-дубликаты?


    да, как вы определяете неиспользуемые?
    10 июн 19, 09:11    [21905668]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    неиспользуемые индексы : это с момента последнего рестарта инстанса?

    Да. Информация традиционно из sys.dm_db_index_usage_stats получается.

    komrad
    подсвечиваются ли индексы-дубликаты?

    Нет, но могу такую функционально добавить в будующих билдах. Нужно ли это просто пока хз.
    10 июн 19, 09:12    [21905670]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Ролг Хупин
    Member

    Откуда: Чебаркуль
    Сообщений: 2717
    Sergey Syrovatchenko
    komrad
    неиспользуемые индексы : это с момента последнего рестарта инстанса?

    Да. Информация традиционно из sys.dm_db_index_usage_stats получается.

    komrad
    подсвечиваются ли индексы-дубликаты?

    Нет, но могу такую функционально добавить в будующих билдах. Нужно ли это просто пока хз.


    кстати, 1 может быть опасно, 2 да, бывает полезно
    10 июн 19, 09:22    [21905682]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Ролг Хупин
    кстати, 1 может быть опасно

    Спорить конечно же не буду. Там приколов с этим системным представлением много (когда база AUTO_CLOSE, когда индексы пересоздаются и тд), но тем не менее :)
    Эта инфа для наглядности показывается, а там пользователь уже сам решает.
    10 июн 19, 09:32    [21905689]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    А можно попросить первую картинку из статьи на хабре поставить в качестве заставки к программе.
    18 июн 19, 10:54    [21910382]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Сегодня не пятница, но накинуть хайпа необходимо :)
    Для всех кому интересно выложил на Хабре трушную историю о том как делал туловину свою и почему.

    https://habr.com/en/post/455339/

    Технический пост о том как все устроено тоже скоро будет.
    18 июн 19, 10:56    [21910387]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    andy st
    А можно попросить первую картинку из статьи на хабре поставить в качестве заставки к программе.

    Я подумаю )))
    Главное чтобы народ пользовался тулом

    Картинка с другого сайта.
    18 июн 19, 10:59    [21910391]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.39:

    Добавил возможность создавать индексы на основе информации из missing index
    Мелкие улучшения в GUI

    Новый функционал на небольшом примере:

    Картинка с другого сайта.

    Выложил перевод предыдущей статьи вдруг кому-то будет интересно:
    https://habr.com/en/post/457206/

    Планирую порефакторить приложение и прикрутить поддержку обслуживания статистики.
    Хочется узнать мнение. Может стоит отдельную приложуху сделать для просмотра и обслуживания статистики?
    Или прилепить в текущем приложении все что можно прилепить?

    И очень хочется получить фитбек от всех желающих в плане... что еще в прогу добавить... что удобно / неудобно... баги / фичи и тд.
    Заранее спасибо.
    23 июн 19, 10:53    [21913533]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko,
    Вариант сделать для missing index отдельную закладку с отдельным адекватным набором столбиков не рассматривался?
    По двойному клику на строке - детализация по индексу. там же опция по оценке изменения типа сжатия...
    24 июн 19, 13:26    [21914014]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    andy st
    Sergey Syrovatchenko,
    Вариант сделать для missing index отдельную закладку с отдельным адекватным набором столбиков не рассматривался?

    это дельная мысль
    а то на лицо перенасыщение данными
    "усложнять - просто, упрощать - сложно" (с) Мейер
    24 июн 19, 13:34    [21914036]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    andy st
    Вариант сделать для missing index отдельную закладку с отдельным адекватным набором столбиков не рассматривался?

    Честно так и хотел делать, но в коде завязка на основной грид и весь UI на нем основывается. Возможно в будующем разобью на закладки.

    andy st
    По двойному клику на строке - детализация по индексу. там же опция по оценке изменения типа сжатия...

    В планах сделать. У каждой строки есть дриллдаун в котором показывается статистика по индексу в виде графика и таблицы + различная инфа, вроде сжатия, всякой интернал информации и тд. К слову если есть какие-то хотелки в плане доп. информации, которую хотелось бы в деталях видеть - напишите пжл.

    Еще была идея показывать на графике распределение статистики и то что по факту в таблице.

    komrad
    а то на лицо перенасыщение данными

    В плане? :)
    Столбцы каждый пользователь под себя может настроить. Да согласен что инфы много, но старался так чтобы каждый для себя можно увидеть все что только возможно.

    Если есть что-то явно лишнее на UI смело говорите, постараюсь исправить.
    25 июн 19, 15:32    [21914991]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Sergey Syrovatchenko
    komrad
    а то на лицо перенасыщение данными

    В плане? :)
    Столбцы каждый пользователь под себя может настроить. Да согласен что инфы много, но старался так чтобы каждый для себя можно увидеть все что только возможно.

    Если есть что-то явно лишнее на UI смело говорите, постараюсь исправить.


    тут дело в позиционировании приложения
    если оно для опытных дба, то и "инженерный" вид не помеха
    если для облегчения жизни регулярных админов, то надо от простого к сложному, как в SQLCoPilot, например -
    https://sqlpadre.wordpress.com/2014/02/06/sql-copilota-software-review/

    вышесказанное из моего личного опыта написания "аналога" диагностической тулзы типа solarwinds и подобных
    коллега ДБА посмотрев на интерфейс, сказал что слишком сложно
    другой же сказал - норм!

    такие дела
    25 июн 19, 16:44    [21915043]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    тут дело в позиционировании приложения
    если оно для опытных дба, то и "инженерный" вид не помеха

    Изначально планировалось для новичков, но по мере добавления новых фич получилось, как мне хочется надеяться, что-то универсальное.
    Сразу хочется пошутить словами коллеги "универсальные вещи работают универсально плохо"

    С другой стороны для новичков настройки по дефолту относительно приемлимые.
    Для опытных коллег есть мелкие фичи - вроде работы с компрессией и колумнсторами.

    Постараюсь скоро добавить возможность обслуживания статистики хотя бы в черновом виде, а там будет видно что народ скажет за функционал.

    Если что буду очень рад фитбекам :)
    25 июн 19, 20:45    [21915168]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko,
    по индексам можно еще показывать используемые файловые группы и файлы + свободное место на дисках с этими файлами.
    В настройки - критический % свободного места на дисках и подсветка красненьким, что мол близится "ойвсё!"
    Если считать, что управление дисковым пространством относится к обслуживанию индексов, то можно сохранять статистику свободному месту и, как вариант, на основе пары-тройки срезов, между которыми больше суток, считать прогноз по заполнению диска.
    Исторические данные по самим индексам тоже могут пригодиться для каких-нибудь веселых картинок.
    26 июн 19, 06:33    [21915260]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Yuri Abele
    Member

    Откуда: Латвия -> Литва -> Тольятти -> Wiesbaden -> Karl
    Сообщений: 1637
    Я бы еще сильно рекомендовал в генерящихся T-SQL скриптах поменять все
    PRINT '.....'
    
    на
    RAISERROR(N'.....', 0,1) WITH NOWAIT;
    

    Дело в том, что PRINT он буферезируется, и, частенько, в больших и нагруженных скриптах, сообщения копятся, копятся в буфере а потом, только, разом выдаются.
    Т.е. мы не видим процесс, а, только, по окончанию, видим как оно отработало.
    26 июн 19, 10:58    [21915401]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Yuri Abele
    RAISERROR(N'.....', 0,1) WITH NOWAIT

    В следующем билде эта правка будет.

    andy st
    по индексам можно еще показывать используемые файловые группы и файлы + свободное место на дисках с этими файлами.

    Идея принята. Подумаю как ее можно будет оформить в рамках приложения

    + было бы полезно видеть на этапе выбора баз данных свободное место в файлах данных и логе? (если да, то выгребание этой инфы чуток замедлит основной запрос)
    26 июн 19, 12:14    [21915459]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Yuri Abele
    Member

    Откуда: Латвия -> Литва -> Тольятти -> Wiesbaden -> Karl
    Сообщений: 1637
    Sergey Syrovatchenko
    + было бы полезно видеть на этапе выбора баз данных свободное место в файлах данных и логе? (если да, то выгребание этой инфы чуток замедлит основной запрос)

    Если использовать ту логику (перехватывается через Profiler), которую SSMS в отчете "Disk usage by Table" использует, то задержка будет, практически, не заметна.
    26 июн 19, 14:20    [21915587]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Yuri Abele
    Если использовать ту логику (перехватывается через Profiler), которую SSMS в отчете "Disk usage by Table" использует, то задержка будет, практически, не заметна.

    Если говорить за этот отчет, то там все через sys.allocation_units данные выгребаются, но вопрос стоит в том чтобы подсчитать занимаемое место по всем базам одним запросом. А это делать прийдется итерационно (других способов увы не знаю)
    26 июн 19, 14:33    [21915605]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Имел ввиду такого рода код:

    IF OBJECT_ID('tempdb.dbo.#space') IS NOT NULL
        DROP TABLE #space
    
    CREATE TABLE #space (
          database_id INT PRIMARY KEY
        , data_used_size DECIMAL(18,2)
        , log_used_size DECIMAL(18,2)
    )
    
    DECLARE @SQL NVARCHAR(MAX)
    
    SELECT @SQL = STUFF((
        SELECT '
        USE [' + d.name + ']
        INSERT INTO #space (database_id, data_used_size, log_used_size)
        SELECT
              DB_ID()
            , SUM(CASE WHEN [type] = 0 THEN space_used END)
            , SUM(CASE WHEN [type] = 1 THEN space_used END)
        FROM (
            SELECT s.[type], space_used = SUM(FILEPROPERTY(s.name, ''SpaceUsed'') * 8. / 1024)
            FROM sys.database_files s
            GROUP BY s.[type]
        ) t;'
        FROM sys.databases d
        WHERE d.[state] = 0
        FOR XML PATH(''), TYPE).value('.', 'NVARCHAR(MAX)'), 1, 2, '')
    
    EXEC sys.sp_executesql @SQL
    
    SELECT
          d.database_id
        , d.name
        , d.state_desc
        , d.recovery_model_desc
        , t.total_size
        , t.data_size
        , s.data_used_size
        , t.log_size
        , s.log_used_size
    FROM (
        SELECT
              database_id
            , log_size = CAST(SUM(CASE WHEN [type] = 1 THEN size END) * 8. / 1024 AS DECIMAL(18,2))
            , data_size = CAST(SUM(CASE WHEN [type] = 0 THEN size END) * 8. / 1024 AS DECIMAL(18,2))
            , total_size = CAST(SUM(size) * 8. / 1024 AS DECIMAL(18,2))
        FROM sys.master_files
        GROUP BY database_id
    ) t
    JOIN sys.databases d ON d.database_id = t.database_id
    LEFT JOIN #space s ON d.database_id = s.database_id
    ORDER BY t.total_size DESC
    
    26 июн 19, 14:45    [21915615]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Sergey Syrovatchenko
    Имел ввиду такого рода код:



    посмотрите в сторону sys.dm_db_file_space_usage
    26 июн 19, 15:29    [21915637]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    komrad
    посмотрите в сторону sys.dm_db_file_space_usage

    Этот вариант тоже рассматривал. Табличная функция выбирает данные в разрезе текущей базы.
    26 июн 19, 15:50    [21915656]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Sergey Syrovatchenko
    komrad
    посмотрите в сторону sys.dm_db_file_space_usage

    Этот вариант тоже рассматривал. Табличная функция выбирает данные в разрезе текущей базы.


    да, промашка, проверил как у себя реализовано - подход такой же, через use [db], но только в цикле и без varchar(max):

    +
    set nocount on;
    
    declare @db table (db varchar(128))
    create  table #files
    	(
    	Drive varchar(10),
    	DBName varchar(128),
    	FileType varchar(10),
    	LogicalName varchar(128),
    	PhysicalName varchar(512),
    	SizeMB numeric(10,2),
    	Comment varchar(128),
    	[FileGroup] varchar(128),
    	SpaceUsedMB numeric(10,2),
    	SpaceFreeMB numeric(10,2),
    	[Status] varchar(50),
    	MaxSizeMB varchar(20),
    	Growth varchar(20),
    	FileID smallint
    	)
    declare @d varchar(128)
    declare @cmd varchar(4096)
    
    insert into @db (db)
    select name 
    from sys.databases
    where is_in_standby<>1
    and DATABASEPROPERTYEX(name,'Status')='ONLINE'
    
    while exists (select top 1 1 from @db)
    	begin
    		select top 1 @d=db from @db 
    
    		set @cmd='use ['+@d+'];'
    		set @cmd=@cmd+'select 
    							left(physical_name,3) [Drive]
    							,db_name() [DBName]
    							,type_desc [FileType]
    							,name [LogicalName]
    							,physical_name
    							,size/128. [SizeMB]
    							,state_desc [comment]
    							,case when data_space_id=0 then '''' 
    							else (select name+N'' (''+type_desc+N'')'' collate SQL_Latin1_General_CP1_CI_AS from sys.data_spaces where data_space_id=df.data_space_id) end [FileGroup]
    
    							,CAST(FILEPROPERTY(df.name, ''SpaceUsed'') AS int)/128. [SpaceUsedMB]
    							,size/128.0 - CAST(FILEPROPERTY(df.name, ''SpaceUsed'') AS int)/128. AS [SpaceFreeMB]
    
    							,df.state_desc as [Status]
    
    							,case 
    								when df.max_size=-1 then ''Unlimited''
    								else convert(varchar(50),ceiling(df.max_size/128.)) end as [MaxSizeMB]
    
    							,case 
    								when df.is_percent_growth=1 then convert(varchar(20),df.growth)+''%''
    								else 
    								convert(varchar(20),convert(int,df.growth/128.))+'' MB'' end as [Growth]
    							, df.file_id
    						from sys.database_files df 
    						
    						option (recompile)'
    
    		insert into #files (Drive,DBName,FileType,LogicalName,PhysicalName,SizeMB,Comment,[FileGroup],SpaceUsedMB,SpaceFreeMB,[Status],MaxSizeMB,Growth,FileID)
    		exec (@cmd)
    
    		set @cmd=''
    		delete from @db where db=@d
    	end
    
    select 
    	Drive
    	,DBName
    	,FileType
    	,LogicalName
    	,PhysicalName
    	,SizeMB
    	,Comment
    	,[FileGroup]
    	,SpaceUsedMB
    	,SpaceFreeMB
    	,[Status]
    	,MaxSizeMB
    	,Growth
    	,FileID
    from #files 
    

    26 июн 19, 17:15    [21915716]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko
    + было бы полезно видеть на этапе выбора баз данных свободное место в файлах данных и логе? (если да, то выгребание этой инфы чуток замедлит основной запрос)

    А как же веяния в разработке "современных" приложений - долго не запускаться, сразу чтонить показать, остальное показать "как-нибудь" и в фоне догрузить?
    Так и тут: старый запрос по бд, показ таблички с всеми столбиками, включая свободное место с надписью "получение данных".
    И фоновым потоком уже читать детализацию по базам и подменять "получение.." на циферки.
    Жаждет человек увидеть данные по свободному месту - дождется, не актуально - сразу пойдет дальше.
    27 июн 19, 06:20    [21915895]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.40:

  • Добавил возможность смотреть после рефреша размер свободного места в файлах
  • Добавил поиск в диалог выбора базы
  • Исправлена ошибка с квотированием (специально для тех кто людит добавлять ' ] [ вот такие символы к именам обьектов )
  • По просьбе Yuri Abele при генерации скрипта поменял PRINT на RAISERROR WITH NOWAIT

    Картинка с другого сайта.

    Есть подозрение что расширенный запрос по получению списка баз может тормозить.
    У кого есть возможность проверьте плиз.
    Особенно если у вас есть много баз в AUTO_CLOSE.
  • 29 июн 19, 13:44    [21917467]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    Выложил версию 1.0.0.41.

    Чуток поправил GUI.
    29 июн 19, 15:37    [21917489]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Yuri Abele
    Member

    Откуда: Латвия -> Литва -> Тольятти -> Wiesbaden -> Karl
    Сообщений: 1637
    Здорово! Спасибо!
    1 июл 19, 16:34    [21918332]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    andy st
    Member

    Откуда:
    Сообщений: 710
    Sergey Syrovatchenko,
    А можно еще показать свободное место на диске расположения файлов базы и логов?
    Правда, придётся переделывать табличку, чтобы файлы и файловые группы прикрутить.
    Ну и печалит невозможность сортировать по полю "selection". Типа сначала выбранные, потом остальные. Как по базам, так и по индексам.
    фишка: create index по missing опцию online=on игнорирует
    2 июл 19, 07:16    [21918668]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    komrad
    как в SQLCoPilot, например -
    https://sqlpadre.wordpress.com/2014/02/06/sql-copilota-software-review/
    что то сайт то у них не открывается.
    2 июл 19, 22:37    [21919499]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    komrad
    Member

    Откуда: Msk -> Utrecht
    Сообщений: 4903
    Mind
    komrad
    как в SQLCoPilot, например -
    https://sqlpadre.wordpress.com/2014/02/06/sql-copilota-software-review/
    что то сайт то у них не открывается.


    да, к сожалению, последний раз он откликался в октябре 2018
    https://web.archive.org/web/2018*/www.sqlcopilot.com

    странно, что у них произошло такого, чтобы сайт забросить
    3 июл 19, 01:20    [21919536]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    uaggster
    Member

    Откуда:
    Сообщений: 619
    Sergey Syrovatchenko
    Выложил версию 1.0.0.39:

    Добавил возможность создавать индексы на основе информации из missing index
    Мелкие улучшения в GUI

    Сергей, если б в этом случае она показывала "почти синонимы", т.е. индексы, похожие на missing index, но отличающиеся includ'ом, или дополнительным "вторичным" полем в самом индексе - цены б ей не было.

    Вообще, поиск синонимов и почти синонимов в индексах - был бы очень нужной штукой.
    8 июл 19, 11:44    [21922544]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    andy st
    А можно еще показать свободное место на диске расположения файлов базы и логов?
    Правда, придётся переделывать табличку, чтобы файлы и файловые группы прикрутить.

    Пока не планирую такое добавлять, потому как тяжело понять как этим пользоваться. Если можете нарисовать примерный мокап с предлагаемым функционалом, то буду благодарен.

    andy st
    Ну и печалит невозможность сортировать по полю "selection". Типа сначала выбранные, потом остальные. Как по базам, так и по индексам.

    Пробовал исправить, увы не получилось.

    andy st
    фишка: create index по missing опцию online=on игнорирует

    Сделано. В следующем билде будет.
    8 июл 19, 15:42    [21922812]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    uaggster
    если б в этом случае она показывала "почти синонимы", т.е. индексы, похожие на missing index, но отличающиеся includ'ом, или дополнительным "вторичным" полем в самом индексе - цены б ей не было.

    Вообще, поиск синонимов и почти синонимов в индексах - был бы очень нужной штукой.

    То есть хотелось бы видеть в общем списки дубликаты индексов? Если индексы по полям идентичны (порядок может различаться), то такое могу реализовать подстветкой.
    8 июл 19, 15:45    [21922818]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Mind
    Member

    Откуда: Лучший город на Земле
    Сообщений: 2263
    Sergey Syrovatchenko
    uaggster
    если б в этом случае она показывала "почти синонимы", т.е. индексы, похожие на missing index, но отличающиеся includ'ом, или дополнительным "вторичным" полем в самом индексе - цены б ей не было.

    Вообще, поиск синонимов и почти синонимов в индексах - был бы очень нужной штукой.

    То есть хотелось бы видеть в общем списки дубликаты индексов? Если индексы по полям идентичны (порядок может различаться), то такое могу реализовать подстветкой.
    А что если поля одинаковые, а порядок разный то это дубликаты?

    А что значит индексы отличаются дополнительным вторичным полем и что вам собственно это даст? Огласите все критерии похожести.
    8 июл 19, 23:03    [21923113]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    uaggster
    Member

    Откуда:
    Сообщений: 619
    Mind
    Sergey Syrovatchenko
    пропущено...

    То есть хотелось бы видеть в общем списки дубликаты индексов? Если индексы по полям идентичны (порядок может различаться), то такое могу реализовать подстветкой.
    А что если поля одинаковые, а порядок разный то это дубликаты?

    А что значит индексы отличаются дополнительным вторичным полем и что вам собственно это даст? Огласите все критерии похожести.

    Хотелось бы видеть ситуации типа такой:
    1. Полные синонимы (т.е. абсолютно идентичные индексы, дубликаты).
    2. Синонимы, отличающиеся списком INCLUDE:
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I1] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC
    )
    INCLUDE ( 	
    	[CODE_O],
    	[YEAR],
    	[MONTH],
    	[NSCHET],
    	[DSCHET]
    );
    
    CREATE NONCLUSTERED INDEX [ix_I2] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC
    );
    
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I4] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC
    )
    INCLUDE ( 	
    	[CODE_O],
    	[DATE_CONTRACT]
    );
    

    3. Частичные синонимы:
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I11] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC,
    	[CODE_O] ASC
    )
    INCLUDE ( 	
    	[YEAR],
    	[MONTH],
    	[NSCHET],
    	[DSCHET]
    );
    
    CREATE NONCLUSTERED INDEX [ix_I12] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC
    );
    
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I13] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC
    )
    INCLUDE ( 	
    	[CODE_O],
    	[DATE_CONTRACT]
    );
    

    Эти 3 индекса могут быть заменены одним, без ущерба для производительности:
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I21] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC,
    	[CODE_O] ASC
    )
    INCLUDE ( 	
    	[YEAR],
    	[MONTH],
    	[NSCHET],
    	[DSCHET],
    	[DATE_CONTRACT]
    );
    

    4. Ситуации, когда индексы, включая include, содержат одни и те же поля.
    Я понимаю, что индексы:
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I1] ON [dbo].[SCHET]
    (
    	[ID_SCHET] ASC,
    	[CODE_O] ASC
    )
    INCLUDE ( 	
    	[YEAR],
    	[MONTH],
    	[NSCHET],
    	[DSCHET]
    ) 
    

    И:
    CREATE UNIQUE NONCLUSTERED INDEX [ix_I1] ON [dbo].[SCHET]
    (
    	[CODE_O] ASC,
    	[ID_SCHET] ASC
    )
    INCLUDE ( 	
    	[YEAR],
    	[MONTH],
    	[NSCHET],
    	[DSCHET]
    ) 
    

    - существенно неэквивалентны в общем случае.
    Но об их существовании - мне бы хотелось знать. Потому что в частном конкретном случае - они могут оказаться еще как эквивалентны.

    Нечто подобное умеет sp_Blitz, но "настоящая" утилита - была бы полезной.
    9 июл 19, 09:42    [21923221]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    uaggster
    Хотелось бы видеть ситуации типа такой:

    Такое сделать можно. Я даже за. Какого типа разукрашки хотели бы видеть в каждом из описанных случаев?
    Если развивать тему, то можно выделять индексы которые не используются вообще (при условии что другие индексы в рамках таблицы используются).

    Главное тут понимать как показывать о проблеме. Думаю можно в имени индекса показывать иконку восклицания + тултип.
    9 июл 19, 11:31    [21923289]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    uaggster
    Member

    Откуда:
    Сообщений: 619
    Разумеется, 1 ситуация - это красный уровень, 2 - оранжевый, 3 - желтый, а четвертая - не знаю, серый какой-нибудь.
    И парно (эээ... N-но) подсвечиваться, при наведении или выделении.
    И какой-нибудь одновременный просмотр определения, с подсветкой различий.
    Сам рефакторинг, и тем паче - автоматический рефакторинг, конечно, не нужен. Только обнаружение.

    Я, прошу прощения, это, конечно, возможно, не тема данной утилиты, просто наболело.
    У меня больше полусотни разных баз на куче серверов.
    Ситуация когда "внезапно" выясняется, что база вдруг раздулась неприлично, или быстродействие на каких либо заливках - упало - чуть ли не ежедневно проявляется.
    Новый мальчик (девочка) у разработчиков -> новый отчет -> куча новых индексов. Такая обычная цепочка.
    Я понимаю, что такие проблемы решаются чисто административно, в смысле "бумажно-административно", методом расстреляния нерадивых, но, к сожалению, не могу довести эту прогрессивную методику до промышленного внедрения. Разработчики очень возражают.
    Поэтому какой-нибудь дашборд, который индицировал бы ситуацию "вот тут новое говно, неотличимое от старого" - очень нужно.
    По крайней мере, чтоб я мог отдать его молодым обезьянкам, чтобы скинуть эту проблему со своего старого обезьяньего хвоста.

    Идея с "совсем не используемыми индексами" - она, конечно, замечательна, но нужно тогда, чтобы приложение куда-то засасывало статистику использования индексов, и хранило между перезапусками сервера.
    Ну и типа порог срабатывания: "оповещать после квартала неиспользования" (настраиваемо).

    Я прощу прощения за некоторую эмоциональность. Просто как в том анекдоте: "...И прошу прощения за неровный почерк, потому что даже прямо сейчас..."
    9 июл 19, 13:17    [21923389]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    uaggster, сделаем :)

    Мне идея понравилась. Как быстро получится пока гарантировать не смогу, но будет.
    Сейчас новым тулом начал заниматься, который откладывал более двух лет.
    11 июл 19, 09:43    [21924553]     Ответить | Цитировать Сообщить модератору
     Re: SQL Index Manager - бесплатная утилита по обслуживанию индексов для SQL Server и Azure  [new]
    Sergey Syrovatchenko
    Member

    Откуда: Харьков
    Сообщений: 80
    uaggster
    Поэтому какой-нибудь дашборд, который индицировал бы ситуацию "вот тут новое говно, неотличимое от старого" - очень нужно.

    Могу лишь предложить посмотреть на бесплатный аналог от RedGate:
    https://www.red-gate.com/products/dlm/dlm-dashboard/
    11 июл 19, 09:45    [21924561]     Ответить | Цитировать Сообщить модератору
    Топик располагается на нескольких страницах: 1 2 3 4 5 6      [все]
    Все форумы / Microsoft SQL Server Ответить