Неймовірно довге відновлення резервної копії

Обговорення питань, пов'язаних з функціонуванням програми
poltava_energy
Повідомлень: 717
З нами з: 13 червня 2012, 09:38

Неймовірно довге відновлення резервної копії

Повідомлення poltava_energy » 16 грудня 2015, 10:23

Якщо ще квартал тому відновлення резервної копії займало 4-5 годин, що було забагато, але хоч вкладалося у рамки робочого дня.
То відновлення резервної копії, яка зроблена на останньому оновленні 087 відбувалося забагато навіть по звичайним тормознутим медковськм міркам - більше 21 години.

У Диспетчері задач параметри просессів медка після закінчення відновлення такі
medoc_restore_from_reserve.PNG
medoc_restore_from_reserve.PNG (10.2 Кіб) Переглянуто 5416 разів
Як це чудово видно на скріншоті, під час оновлення проссесси Firebird за сеанс прочитали 22 а записали більше 68 ГІГАБАЙТ інформації, при тому що розмір бази ZVIT.FDB становить 6 202 793 984 байти. Тобто записано інформації у чисту базу у ДЕСЯТЬ раз більше.

priup
Повідомлень: 7713
З нами з: 22 червня 2011, 12:23

Re: Неймовірно довге відновлення резервної копії

Повідомлення priup » 16 грудня 2015, 12:03

Мой совет - обратиться с ЭТИМ непосредственно к Вашему дилеру по Медку - Пусть пишет в БО и там разбираются!!!

poltava_energy
Повідомлень: 717
З нами з: 13 червня 2012, 09:38

Re: Неймовірно довге відновлення резервної копії

Повідомлення poltava_energy » 19 травня 2016, 10:01

медок пробив нове дніще :lol:
Відновлення з резервної копії відбувалося більше 25 годин :shock:
medoc_restore_from_reserve02.PNG
medoc_restore_from_reserve02.PNG (3.56 Кіб) Переглянуто 5295 разів
За цей час сервером було записано майже 90 ГІГАБАЙТ, хоча розмір БД змінився за півроку не так значуще. Розмір .ZBK 1.5GB, розмір кінцевого ZVIT.FDB біля 6.5GB.
Прогресс оптимізації алгоритмів на ліцо :twisted: :twisted: :twisted:

Charg
Повідомлень: 52
З нами з: 23 березня 2015, 18:11

Re: Неймовірно довге відновлення резервної копії

Повідомлення Charg » 19 травня 2016, 10:17

Офигеть, а я только пару дней назад жаловался что 1гиговый бэкап в 4гиговую бд 5.5 часов восстанавливался долго...
Мда.

Что за софт замеры делает, кстати?

poltava_energy
Повідомлень: 717
З нами з: 13 червня 2012, 09:38

Re: Неймовірно довге відновлення резервної копії

Повідомлення poltava_energy » 19 травня 2016, 10:45

Charg писав:Что за софт замеры делает, кстати?
Звичайнісінький Диспетчер задач Windows XP

bandurovskiy
Повідомлень: 66
З нами з: 21 вересня 2012, 16:32
Звідки: Уездный город
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення bandurovskiy » 19 травня 2016, 13:59

А какая дисковая подсистема на сервере медка? SATA, SAS, SSD, присутствует ли рейд масив?

AllexL
Повідомлень: 47
З нами з: 19 грудня 2011, 20:16
Звідки: Kyiv

Re: Неймовірно довге відновлення резервної копії

Повідомлення AllexL » 19 травня 2016, 14:09

poltava_energy писав:медок пробив нове дніще :lol:
Відновлення з резервної копії відбувалося більше 25 годин :shock:
За цей час сервером було записано майже 90 ГІГАБАЙТ, хоча розмір БД змінився за півроку не так значуще. Розмір .ZBK 1.5GB, розмір кінцевого ZVIT.FDB біля 6.5GB.
А что за железо? Базу проверяли на ошибки? А пробовали средствами Firebird бэкап / рестор делать? (может, там в базе мусора много)

Charg
Повідомлень: 52
З нами з: 23 березня 2015, 18:11

Re: Неймовірно довге відновлення резервної копії

Повідомлення Charg » 19 травня 2016, 16:32

AllexL писав:Базу проверяли на ошибки?
А как?
AllexL писав:А пробовали средствами Firebird бэкап / рестор делать? (может, там в базе мусора много)
А что если сделать бэкап\рестор средствами firebird - база очистится от мусора? О.о
Как это сделать?

Колпаков Б.И.
Повідомлень: 8802
З нами з: 29 липня 2011, 14:59
Звідки: Украина, Донецкая область, Бахмут
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення Колпаков Б.И. » 19 травня 2016, 17:11

Charg писав:
AllexL писав:Базу проверяли на ошибки?
А как?
Менеджером архивов.
Charg писав:
AllexL писав:А пробовали средствами Firebird бэкап / рестор делать? (может, там в базе мусора много)
А что если сделать бэкап\рестор средствами firebird - база очистится от мусора? О.о
Как это сделать?
Вы это сделали когда восстановили zbk.

Charg
Повідомлень: 52
З нами з: 23 березня 2015, 18:11

Re: Неймовірно довге відновлення резервної копії

Повідомлення Charg » 19 травня 2016, 17:29

Колпаков Б.И. писав: Вы это сделали когда восстановили zbk.
Не знаю как у poltava_energy дела обстоят, но лично у меня zbk генерировался средствами самого медка, восстанавливался соответственно тоже.

poltava_energy
Повідомлень: 717
З нами з: 13 червня 2012, 09:38

Re: Неймовірно довге відновлення резервної копії

Повідомлення poltava_energy » 20 травня 2016, 09:35

bandurovskiy писав:А какая дисковая подсистема на сервере медка? SATA, SAS, SSD, присутствует ли рейд масив?
Якщо чесно, мене такі подробиці не дуже цікавлять :? і у даному випадку я виступаю в ролі software engineer - а не hardware.
Подав заявку згідно до вимог серверної частини медка із цього розділу і мені надали сервер із потрібними характеристиками.

Є пакет даних підприємства у вигляді .ZBK файлу, є свіжепоставлений медок версії 122 із чистою базою ZVIT.FDB розміром близько 100M.
От на цій платформі я відновлюю підприємство за звичною процедурою. Так що ніяка база та сміття у базі тут нідочого.
І мене вкрай турбує те, що за рік час відновлення із резервної копії збільшився із 5 годин до 25, тобто у 5 :!: разів.
І ця проблема не є апаратною, а зумовлена лише неоптимальними алгоритмами відновлення резервної копії.
Востаннє редагувалось 20 травня 2016, 13:45 користувачем poltava_energy, всього редагувалось 1 раз.

AllexL
Повідомлень: 47
З нами з: 19 грудня 2011, 20:16
Звідки: Kyiv

Re: Неймовірно довге відновлення резервної копії

Повідомлення AllexL » 20 травня 2016, 11:00

Charg писав: Как это сделать?
Проверку БД можно осуществлять (при установленной серверной части вкупе с утилитами fireBird, конечно же):

Код: Виділити все

gfix -validate -full -no_update zvit.fdb -user <user> -password <pass> 
user & pass по-умолчанию Вы без труда найдете на форумах по firebird-у.
Возможно, при выполнении данной команды Вам встретятся очень "интересные" сообщения.
Нелишне будет создание / восстановление архива средствами сервера ;)

Код: Виділити все

backup: gbak  -b -v zvit.fdb zvit.fbk  -user <user> -password <pass>
restore: gbak  -c  zvit.fbk zvit.fdb -user <user> -password <pass> 
Естественно, перед восстановлением архива нужно куда-то сохранить оригинальную zvit.fdb (про всяк випадок) .
Про решение проблем с базой данных писать не буду, т.к. это непрофильный форум
poltava_energy писав: І мене вкрай турбує те, що за рік час відновлення із резервної копії збільшився із 5 годин до 25, тобто у 5 :!: разів.
І ця проблема не є апаратною, а зумовлена лише неоптимальними алгоритмами відновлення резервної копії.
Не судите так категорично об "неоптимальних алгоритмах", т.к., судя по всему, с СУБД Вы не знакомы и разработчиком не являетесь.
Колпаков Б.И. писав:Вы это сделали когда восстановили zbk.
Вообще-то - нет. ZBK - zip-архив программного каталога + файла БД, поэтому при восстановлении области файла с "мусором", присутствовавшие в файле zvit.fbk, успешно вернулись после восстановления.


p.s. Да, не злоупотребляйте бэкап/рестором средствами БД, т.к. большого эффекта постоянное выполнение этой процедуры не даст. (если, конечно, вы периодически не дополняете в базу / удаляете из базы огромные массивы данных) :roll: :roll:

bandurovskiy
Повідомлень: 66
З нами з: 21 вересня 2012, 16:32
Звідки: Уездный город
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення bandurovskiy » 20 травня 2016, 11:38

Перенесите на сервере папку с БД медка на отдельный SSD диск, и будет вам радость.
И бекапы будут быстрее делаться, копия веселей разворачиваться и работа медка заметно ускорится.

П.С. Ощутимый прирост будет заметен при работе с первичкой, к примеру подписание и отправление на регистрацию нескольких тысяч документов одновременно.

poltava_energy
Повідомлень: 717
З нами з: 13 червня 2012, 09:38

Re: Неймовірно довге відновлення резервної копії

Повідомлення poltava_energy » 20 травня 2016, 14:27

AllexL писав:ZBK - zip-архив программного каталога + файла БД, поэтому ...
Лише одна ця фраза довіру до ваших висловів множить на нуль :(
bandurovskiy писав:Перенесите на сервере папку с БД медка на отдельный SSD диск, и будет вам радость.
Певно ви не дуже уважно читали моє попереднє повідомлення.
Сервер для мене чорна скринька із заданими характеристиками. Підтримкою заліза, підтримкою серверної ОС та підтримкою прикладного ПЗ у нас займаються три різні групи, і навіть при всьому моєму бажанні я не можу зробити "на сервере папку с БД медка на отдельный SSD диск" оскільки я не оперую такими поняттями.

Проблема у іншому.
За останній рік технічні параметри сервера медка не змінилися. Індекс PassMark, IOPS, RAW read/write ціїє чорної скриньки знаходяться у тих же межах що і рік тому.
Але у останньому кварталі 2015 року в якомусь із чергових оновлень у алгоритмах відновлення резервної копії медка відбулися зміни, які У РАЗИ збільшили час відновлення.

У грудні вказував розмір бази ZVIT.FDB = 6 202 793 984 байти та кількість прочитаного (22 ГІГАБАЙТИ) та записаного (68 ГІГАБАЙТИ) процессами fb_inet_server під час процедури відновленя з резерної копії.
Зараз розмір свіжої бази ZVIT.FDB = 6 739 664 896 байт, при цьому прочитано 49 ГІГАБАЙТ - а записано 90 ГІГАБАЙТ.

Тобто порівняно із груднем відносне збільшення:
  • у розмірі бази (6 739 664 896 - 6 202 793 984) / 6 202 793 984 = 8,65%
    у записаному (90 - 68) / 68 = 32%
    у прочитаному (49 - 22) / 22 = 122%
Розмір аномалії збільшується :?

Колпаков Б.И.
Повідомлень: 8802
З нами з: 29 липня 2011, 14:59
Звідки: Украина, Донецкая область, Бахмут
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення Колпаков Б.И. » 20 травня 2016, 16:31

AllexL писав:
Колпаков Б.И. писав:Вы это сделали когда восстановили zbk.
Вообще-то - нет. ZBK - zip-архив программного каталога + файла БД, поэтому при восстановлении области файла с "мусором", присутствовавшие в файле zvit.fbk, успешно вернулись после восстановления.
Вы говорите о bkz - zip-архив программного каталога + файла БД,
а zbk - свернутая средствами ФБ РК, без мусора. Соответственно ее восстановление на чистой базе дает тот же результат.

AllexL
Повідомлень: 47
З нами з: 19 грудня 2011, 20:16
Звідки: Kyiv

Re: Неймовірно довге відновлення резервної копії

Повідомлення AllexL » 25 травня 2016, 09:06

Колпаков Б.И. писав:
AllexL писав:
Колпаков Б.И. писав:Вы это сделали когда восстановили zbk.
Вообще-то - нет. ZBK - zip-архив программного каталога + файла БД, поэтому при восстановлении области файла с "мусором", присутствовавшие в файле zvit.fbk, успешно вернулись после восстановления.
Вы говорите о bkz - zip-архив программного каталога + файла БД,
а zbk - свернутая средствами ФБ РК, без мусора. Соответственно ее восстановление на чистой базе дает тот же результат.
А, действительно, там пакованый ZIP-ом XML. Признаю, был неправ.

Юра_01
Повідомлень: 296
З нами з: 24 жовтня 2012, 15:45
Звідки: Харьков

Re: Неймовірно довге відновлення резервної копії

Повідомлення Юра_01 » 17 серпня 2016, 16:26

poltava_energy писав:
AllexL писав:ZBK - zip-архив программного каталога + файла БД, поэтому ...
Лише одна ця фраза довіру до ваших висловів множить на нуль :(
bandurovskiy писав:Перенесите на сервере папку с БД медка на отдельный SSD диск, и будет вам радость.
Певно ви не дуже уважно читали моє попереднє повідомлення.
Сервер для мене чорна скринька із заданими характеристиками. Підтримкою заліза, підтримкою серверної ОС та підтримкою прикладного ПЗ у нас займаються три різні групи, і навіть при всьому моєму бажанні я не можу зробити "на сервере папку с БД медка на отдельный SSD диск" оскільки я не оперую такими поняттями.

Проблема у іншому.
За останній рік технічні параметри сервера медка не змінилися. Індекс PassMark, IOPS, RAW read/write ціїє чорної скриньки знаходяться у тих же межах що і рік тому.
Але у останньому кварталі 2015 року в якомусь із чергових оновлень у алгоритмах відновлення резервної копії медка відбулися зміни, які У РАЗИ збільшили час відновлення.

У грудні вказував розмір бази ZVIT.FDB = 6 202 793 984 байти та кількість прочитаного (22 ГІГАБАЙТИ) та записаного (68 ГІГАБАЙТИ) процессами fb_inet_server під час процедури відновленя з резерної копії.
Зараз розмір свіжої бази ZVIT.FDB = 6 739 664 896 байт, при цьому прочитано 49 ГІГАБАЙТ - а записано 90 ГІГАБАЙТ.

Тобто порівняно із груднем відносне збільшення:
  • у розмірі бази (6 739 664 896 - 6 202 793 984) / 6 202 793 984 = 8,65%
    у записаному (90 - 68) / 68 = 32%
    у прочитаному (49 - 22) / 22 = 122%
Розмір аномалії збільшується :?
Много букаф не осилил :lol:
У Вас есть проблема с быстродействием БД?

Колпаков Б.И.
Повідомлень: 8802
З нами з: 29 липня 2011, 14:59
Звідки: Украина, Донецкая область, Бахмут
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення Колпаков Б.И. » 18 серпня 2016, 11:25

А у Вас есть оригинальное решение?

Юра_01
Повідомлень: 296
З нами з: 24 жовтня 2012, 15:45
Звідки: Харьков

Re: Неймовірно довге відновлення резервної копії

Повідомлення Юра_01 » 18 серпня 2016, 11:32

да, есть. увел. быстродействие БД (не путать с восстановлением созданием рк)

Колпаков Б.И.
Повідомлень: 8802
З нами з: 29 липня 2011, 14:59
Звідки: Украина, Донецкая область, Бахмут
Контактна інформація:

Re: Неймовірно довге відновлення резервної копії

Повідомлення Колпаков Б.И. » 18 серпня 2016, 11:37

Расскажите.

Відповісти

Повернутись до “Помилки у роботі програми”