Программы по созданию raid массивов. RAID1 - создание зеркальных дисков через BIOS

В конце прошлой недели купил комплектующие для компьютера и столкнулся с рядом проблем при настройке оборудования. Новый компьютер предназначен для хранения баз данных в офисе одной фирмы, следовательно нужен был RAID массив. Бюджет был порядка 20000 рублей, поэтому собирал на платформе AMD. Материнская плата ASUS M4A88TD-M и два одинаковых жестких диска WD 500 Gb. Для настройки RAID массива HDD подключил в разъемы SATA0 и SATA1. Создавал массив RAID 1, объединение жестких дисков с повышенной надежностью и отказоустойчивостью. Когда жесткие диски зеркалят друг друга. Рекомендации описанные ниже подходят для настройки RAID0, повышения скорости работы дисков.

Первое, зашел в BIOS. Для моей материнской платы нажатие кнопки DEL при загрузке, для плат других фирм может быть F2. В настройках конфигурации SATA переключил режим IDE на RAID. Нажал F10 для сохранения настроек и перезагрузил компьютер.

Второе, нужно включитьRAID массив. Это первый момент, на котором попал в ступор. В инструкции к материнской плате ASUS об этом ни слова не сказано. Во время загрузки компьютера нажал Ctrl+F. Открыл меню Option ROM Utility. Здесь выбрал второй пункт нажатием 2.

В этом меню нажал Ctrl+C для создания RAID. Идя по пунктам включал функции RAID Mode в положение RAID1, напротив дисков Y. Затем дважды нажал Ctrl+Y, ввел имя RAID массиву и сохранил выставленные параметры. Вышел и перезагрузил компьютер.

Теперь при загрузке компьютера видно, что в системе подключен RAID1 массив.

Третье, определил приоритет очереди загрузки с разных устройств. Для этого пришлось еще раз войти в BIOS. Привод DVD, за ним мой RAID, а последним подключаемый устройства, т.е. флешки.

На RAID массив устанавливал Windows 7. В принципе, дальнейшие советы подойдут для установки Windows XP, Vista, Server 2008 и Windows 8 на RAID массив. До начала установки зашел с другого компьютера на сайт ASUS и скачал AMD RAID driver. Драйвер RAID загрузил на флеш-диск, его не надо вставлять в USB разъем до выбора разделов жесткого диска. Образ Windows был на DVD. После этого перешел к установке ОС.

Четвертое, использовал драйвер с флешки, когда дошел до выбора раздела. Вставил флешку, нажал Загрузка и Обзор.

Во всплывшем меню выбрал каталог драйвера, операционный системы и разрядности. В моем случае Windows 7 64bit.

Установщик Windows обнаружил драйвер AMD AHCI Compatible RAID Controller. Его было достаточно, чтобы увидеть раздел жесткого диска. Вынул флеш диск из USB порта.

Здесь меня поджидала вторая загвоздка, когда не ставится Windows 7. Выбрал стандартный способ Создать, весь объем диска установщик определил как Основной. Нажал Далее и получил ошибку. Программе установки не удалось создать новый или найти существующий системный раздел. Дополнительные сведения и так далее. Когда Windosw не устанавливается из-за раздела, решение — сделать самостоятельно разбивку диска на разделы. Удалил все разделы. Нажал Shift+F10.

Пятое, нажав Shift+F10, вызвал командную строку. Shift+Alt возвращает английский язык раскладки клавиатуры на русском дистрибутиве. Ввел diskpart, команда вызова утилиты работы с диском. Следующая команда list disk. Увидел два диска в системе: диск 0 — флешка, диск 1 — RAID массив. Выбрал диск 1 командой select disk 1. Дальше ввел create partition primary size=131072, создал системный раздел размером 128 Гб. За это отвечает команда create partition primary. Команда size для определения размера диска.

Вторую часть диска определил в раздел командой create partition extended. Не использовал size, чтобы включить все оставшееся пространство во второй диск. Что в дальнейшем позволит создать Логический диск.

Выбрал первый раздел командой select partition 1. А командой active раздел помечен как активный. После этого закрыл окно командной строки. Нажал кнопку Обновить.

После обновления списка разделов увидел два диска объемом 128 Гб и 337 Гб. Выбрал первый раздел и нажал кнопку Далее.

Горячо ожидаемая надпись Установка Windows… Установка Windows прошла в обычном режиме.

Проделал несколько раз за три вечера. Некоторые попытки были с ошибками, что увеличивало время. Если останутся вопросы, пишите в комментарии. Например, нужно перезагрузить компьютер после разбития диска на новые разделы, если флешка была вставлена до установки Windows. Все выше описанное было повторено за раз, чтобы убедиться в верности алгоритма из пяти пунктов. Установка Windows 7 на RAID работает, проверено!


Читайте также:

Не ждали? Гандонография или как снимать под водой на телефон Обзор электронной книги Pocketbook Touch Обзор видеоорегистратора AdvoCam FD4 GPS

Создаем 1,5-Тб RAID-массив в домашних условиях

Объемы информации растут быстрыми темпами. Так, согласно данным аналитической организации IDC, в 2006 году на Земле было сгенерировано около 161 млрд. Гб информации, или 161 экзабайт. Если представить этот объем информации в виде книг, то получится 12 обычных книжных полок, только длина их будет равна расстоянию от Земли до Солнца. Многие пользователи задумываются о приобретении все более емких накопителей, благо цены на них снижаются, и за 100 долларов сейчас можно приобрести современный винчестер на 320 Гб.

Большинство современных материнских плат имеют на борту интегрированный RAID-контроллер с возможностью организовывать массивы уровней 0 и 1. Так что всегда можно приобрести пару SATA-дисков и объединить их в RAID-массив. В данном материале как раз рассматривается процесс создания RAID-массивов уровней 0 и 1, сравнение их производительности. В качестве тестируемых взяты два современных жестких диска Seagate Barracuda ES (Enterprise Storage) максимальной емкости – 750 Гб.

Несколько слов о самой технологии. Избыточный массив независимых (или недорогих) дисковых накопителей (Redundant Array of Independent/Inexpensive Disks – RAID) разрабатывался в целях повышения отказоустойчивости и эффективности систем компьютерных запоминающих устройств. Технология RAID была разработана в Калифорнийском университете в 1987 году. В ее основу был положен принцип использования нескольких дисков небольшого объема, взаимодействующих друг с другом посредством специального программного и аппаратного обеспечения, в качестве одного диска большой емкости.

Первоначальная конструкция RAID-массивов предусматривала простое соединение областей памяти нескольких отдельных дисков. Однако в последствии оказалось, что подобная схема снижает надежность матрицы и практически не влияет на быстродействие. Например, четыре диска, объединенных в матрицу, будут сбоить в четыре раза чаще, чем один подобный накопитель. Для решения этой проблемы инженеры из института Беркли предложили шесть различных уровней RAID. Каждый из них характеризуется определенной отказоустойчивостью, емкостью винчестера и производительностью.

В июле 1992 года была создана организация RAID Advisory Board (RAB), которая занимается стандартизацией, классифицированием и изучением RAID. В настоящее время RAB определила семь стандартных уровней RAID. Избыточный массив независимых дисковых накопителей обычно реализуется с помощью платы контроллера RAID. В нашем случае жесткие диски подключались к интегрированному RAID-контроллеру материнской платы abit AN8-Ultra на базе чипсета nForce 4 Ultra. Для начала рассмотрим возможности, предлагаемые чипсетом для построения RAID-массивов. nForce 4 Ultra позволяет создавать RAID-массивы уровней 0, 1, 0+1, JBOD.

RAID 0 (Stripe)

Расслоение дисков, также известное как режим RAID 0, уменьшает число обращений к дискам при чтении и записи для многих приложений. Данные делятся между несколькими дисками в массиве так, чтобы операции чтения и записи проводились одновременно для нескольких дисков. Этот уровень обеспечивает высокую скорость выполнения операций чтения/записи (теоретически - удвоение), но низкую надежность. Для домашнего пользователя – наверное, самый интересный вариант, позволяющий добиться существенного роста скорости чтения и записи данных с накопителей.

RAID 1 (Mirror)

Зеркалирование дисков, известное как RAID 1, предназначено для тех, кто хочет легко резервировать наиболее важные данные. Каждая операция записи производится дважды, параллельно. Зеркальная, или дублированная, копия данных может храниться на том же диске или на втором резервном диске в массиве. RAID 1 обеспечивает резервную копию данных, если текущий том или диск поврежден или стал недоступен из-за сбоя в аппаратном обеспечении. Зеркалирование дисков может применяться для систем с высоким коэффициентом готовности или для автоматического резервирования данных вместо утомительной ручной процедуры дублирования информации на более дорогие и менее надежные носители.

Системы RAID 0 могут дублироваться с помощью RAID 1. Расслоение и зеркалирование дисков (RAID 0+1) обеспечивает более высокую производительность и защиту. Оптимальный способ по соотношению надежность/быстродействие, однако, требует большого количества накопителей.

JBOD

JBOD – данная аббревиатура расшифровывается как "Just a Bunch of Disks", то есть просто группа дисков. Данная технология позволяет объединять в массив диски различной емкости, правда, прироста скорости в этом случае не происходит, скорее, даже наоборот.

У рассматриваемого нами интегрированного RAID-контроллера NVIDIA RAID есть и другие интересные возможности:

Определение неисправного диска. Многие пользователи многодисковых систем покупают несколько одинаковых жестких дисков, чтобы полностью воспользоваться преимуществом дискового массива. Если массив дает сбой, определить неисправный диск можно только по серийному номеру, что ограничивает возможность пользователя правильно определить поврежденный диск.

Дисковая система предупреждения NVIDIA упрощает идентификацию, отображая на экране материнскую плату с указанием неработающего порта, чтобы вы точно знали, какой диск нужно заменить.

Установка резервного диска. Технологии зеркалирования дисков позволяют пользователям назначать резервные диски, которые могут быть сконфигурированы в качестве горячего резерва, защищая дисковый массив в случае сбоя. Общий резервный диск может защитить несколько массивов дисков, а специальный резервный диск может служить в качестве горячего резерва для определенного дискового массива. Поддержка резервного диска, который обеспечивает дополнительную защиту поверх зеркалирования, традиционно ограничивалась высокоуровневыми многодисковыми системами. Технология хранения NVIDIA переносит эту возможность на ПК. Специальный резервный диск может заменить неисправный, пока не закончится ремонт, что позволяет команде поддержки выбирать любое удобное время для ремонта.

Морфинг . В традиционном многодисковом окружении пользователи, которые хотят изменить состояние диска или многодискового массива должны зарезервировать данные, удалить массив, перегрузить ПК и затем сконфигурировать новый массив. Во время этого процесса пользователь должен пройти немало шагов только чтобы сконфигурировать новый массив. Технология хранения NVIDIA позволяет изменить текущее состояние диска или массива с помощью одного действия, которое называется морфинг. Морфинг позволяет пользователям обновить диск или массив для увеличения производительности, надежности и вместимости. Но более важно то, что вам не нужно выполнять многочисленные действия.

Кросс-контроллер RAID. В отличие от конкурентных многодисковых (RAID) технологий, решение NVIDIA поддерживает как Serial ATA (SATA), так и параллельные ATA накопители в рамках одного RAID массива. Пользователям необязательно знать семантику каждого жесткого диска, так как различия в их настройках очевидны.

Технология хранения NVIDIA полностью поддерживает использование многодискового массива для загрузки операционной системы при включении компьютера. Это означает, что все доступные жесткие диски могут быть включены в массив для достижения максимальной производительности и защиты всех данных.

Восстановление данных "на лету". При сбое диска зеркалирование дисков позволяет продолжить работу без остановок благодаря дублированной копии данных, хранящейся в массиве. Технология хранения NVIDIA идет на шаг дальше и позволяет пользователю создать новую зеркальную копию данных во время работы системы, не прерывая доступ пользователя и приложений к данным. Восстановление данных «на лету» устраняет простой системы и увеличивает защиту критической информации.

Горячее подключение. Технология хранения NVIDIA поддерживает горячее подключение для SATA дисков. В случае сбоя диска пользователь может отключить неисправный диск без выключения системы и заменить его новым.

Пользовательский интерфейс NVIDIA. Благодаря интуитивно понятному интерфейсу любой пользователь, даже не имеющий опыта работы с RAID, может легко использовать и управлять технологией хранения NVIDIA (также известной как NVIDIA RAID). Несложный «мышиный» интерфейс позволит быстро определить диски для конфигурирования в массиве, активизировать расслоение и создать зеркальные томы. Конфигурация может быть легко изменена в любое время с помощью того же интерфейса.

Подключаем и конфигурируем

Итак, с теорией разобрались, теперь рассмотрим последовательность действий, необходимых для подключения и настройки жестких дисков для их работы в RAID-массиве 0 и 1 уровней.

Сначала подключаем диски к материнской плате. Необходимо подключить диски к первому и второму или третьему и четвертому SATA-разъемам, так как первые два относятся к первичному (Primary) контроллеру, а вторая пара – к вторичному (Secondary).

Включаем компьютер и заходим в BIOS. Выбираем пункт Integrated Peripherals, далее – пункт RAID Config. Нашему взору предстает следующая картинка:

Ставим RAID Enable, затем включаем RAID для того контроллера, куда подключили диски. На данном рисунке – это IDE Secondary Master и Slave, но нам нужно поставить Enabled в пункте SATA Primary или Secondary, в зависимости от того, куда вы подключили накопители. Нажимаем F10 и выходим из BIOS.

После перезагрузки появляется окошко конфигурирования RAID-дисков, чтобы настроить, нажимаем F10. NVIDIA RAID BIOS – именно тут и нужно выбрать, как именно сконфигурировать диски. Интерфейс очень понятный, просто выбираем нужные диски, размер блока, и все. После этого нам предложат отформатировать диски.

Для корректной работы RAID-массива в ОС Windows необходимо установить драйвер NVIDIA IDE Driver – он обычно имеется на диске с драйверами, идущем в комплекте с материнской платой.

После установки драйверов RAID-массив необходимо инициализировать. Сделать это несложно – кликаем правой кнопкой мыши по значку "Мой компьютер" на рабочем столе, заходим в "Управление – Управление дисками". Служба сама предложит инициализировать и форматировать диски. После прохождения данных процедур RAID-массив готов к использованию. Впрочем, перед установкой рекомендуем ознакомиться с полной инструкцией, идущей в комплекте с материнской платой – там все подробно расписано.

Жесткий диск Seagate Barracuda ES был представлен в июне прошлого года. Винчестер был разработан для поддержки решений хранения данных, использующих наиболее быстрорастущие приложения – серверы большего объема, объемные медиа-материалы, а также различные схемы защиты данных.

Barracuda ES имеет интерфейс SATA, максимальную емкость в 750 Гб, а скорость вращения шпинделя составляет 7200 об/мин. Благодаря поддержке технологии Rotational Vibration Feed Forward (RVFF), повысилась надежность при работе в близко стоящих мультидисковых системах. Также стоит отметить технологию Workload Management, которая защищает диск от перегрева, что положительно сказывается на надежности дисков.

Как уже было отмечено выше, накопитель оснащен интерфейсом SATA II, поддерживает NCQ и имеет 8/16 Мб кэш. Доступны также 250, 400 и 500 Гб варианты.

На тестирование компания Seagate любезно предоставила два топовых накопителя ST3750640NS емкостью 750 Гб, оснащенных 16 Мб кэш-памяти. По своим техническим характеристикам диски Barracuda ES являются почти полной копией обычных десктопных винчестеров, и лишь более требовательны к условиям окружающей среды (температура, вибрация). Плюс, есть отличия в поддержке фирменных технологий.

Технические характеристики :

Скорость вращения шпинделя

7200 об/мин

Объем буфера

Среднее время ожидания

4,16 мс (номинальное)

Число головок (физическое)

Число пластин

Емкость

Интерфейс

SATA 3 Гбит/с, поддержка NCQ

Число пластин

Тип сервопривода

встроенный

Допустимые перегрузки при работе (чтение)

Допустимые перегрузки при хранении

Уровень шума

27 дБА (холостой режим )

Размеры

147х101,6х26,1 мм

720 граммов

Внешний вид

Так выглядит сам накопитель.

Примечательно, что диски отличаются как прошивками, так и контроллерами – в одном случае используется чип ST micro, в другом – Agere.

В комплекте с ним идет миниатюрный джампер, который переключает режим работы интерфейса с 3 Гбит/с на 1,5 Гбит/с.

Тестирование

Конфигурация тестового стенда :

Процессор

AMD Athlon 64 3000+

Материнская плата

Abit AN8-Ultra, nForce4 Ultra

Память

2х512Mb PC3200 Patriot (PSD1G4003K), 2,5-2-2-6-1Т

Основной жесткий диск

WD 1600JB, PATA, 8 Мб кэш, 160 Гб

Видеокарта

PCI-Express x16 GeForce 6600GT Galaxy 128 Мб

Корпус

Bigtower Chieftec BA-01BBB 420 Вт

Операционная Система

Windows XP Professional SP2

Несколько слов о системе охлаждения. Винчестеры установлены в корзину, которая охлаждалась одним 92 мм вентилятором Zalman ZM-F2. Для сравнения результаты испытуемого сравним еще с тремя жесткими дисками: IDE Samsung SP1604N, 2 Мб кэш, 160 Гб WD 1600JB, IDE, 8 Мб кэш, 160 Гб, WD4000YR емкостью 400 Гб, SATA, 16 Мб кэш, Seagate 7200.10 емкостью 250 Гб, SATA, 16 Мб кэш.

При тестировании использовалось следующее программное обеспечение:

  • FC Test 1.0 build 11;
  • PC Mark 05;
  • AIDA 32 3.93 (входящий в нее плагин для тестирования накопителей).

Ввиду того, что результаты Seagate Barracuda ES практически идентичны (разница укладывается в погрешность измерения) результатам Seagate Barracuda 7200.10 750 Гб, ранее, было решено не включать результаты тестирования одиночного накопителя, дабы не перегружать графики лишней информацией.

Результаты тестирования в программе AIDA 32 3.93:

Доброго времени суток, дорогие друзья, знакомые, читатели, почитатели и прочие личности. Сегодня снова про рейд массив и его создание, настройку и тп.

Как Вы помните, я неоднократно писал про то, что жесткие диски являются одним из самых узких мест в производительности Вашего компьютера. С приходом SSD ситуация существенно поменялась, но не то чтобы радикально.

Если поразмыслить то, в общем-то, диски, - это "бутылочное горлышко" еще и в безопасности, ибо: "каюк диску = кирдык данным" (если конечно их нельзя восстановить в ). RAID -массивы способны решить обе этих проблемы, посему, собственно, и применяются в серверах. Впрочем, применять их успешно можно и дома, да и много для этого не надо (поддержку рейдов мат.платой + пара идентичных дисков).

Про то, что такое RAID -ы я уже писал в статье " " , а вот про то как быстро и просто сделать RAID дома штатными методами я расскажу в тексте ниже.

Давайте приступим.

Создаём рейд массив на основе встроенного контроллера

Как я говорил выше, Ваша должна поддерживать создание RAID "а. Представленная ниже инструкция актуальна для ASUS -плат на основе UEFI -биоса, но общий принцип схож как таковой, посему к ознакомлению мануал всё же рекомендуется всем.

Для начала заходим в BIOS , используя соответствующую клавишу (как правило DEL ), а там находим раздел отвечающий за параметры для SATA -контроллера (надеюсь, что IDE уже нигде не используется).

Где переключаем положение контроллера в RAID (обычно там стоит ACHI ). Напоминаю, что диски в идеале должны быть идентичны (желательно абсолютно, а не только размерами). Далее, собственно, перезагружаемся, предварительно сохранив в BIOS изменения.

На этапе инициализации дисков, т.е еще до загрузки операционной системы, будет необходимо нажать, как правило (но не всегда) CTRL-F или CTRL-I . В общем, следите внимательно, ибо обычно оно показывает какое сочетание клавиш необходимо тыкнуть (бывают еще всякие F1-F12 ).

Простейшее меню можно лицезреть на скриншоте выше. Ничего сложного оно из себя не представляет и условно выглядит следующим образом:

  • View Drive Assignments , - показывает диски, что пригодны для создания массива;
  • LD View / LD Define Menu , - показывает текущие массивы;
  • Delete LD Menu , - позволяет удалять массивы;
  • Controller Configuration , - собственно, отвечает непосредственно за настройки.

Нас, в рамках создания такой штуки как рейд массив, собственно, нас интересует только второй пункт. Нажав на соответствующую кнопку на клавиатуре (т.е цифру 2 ) попадаем в соответствующее меню.

Здесь мы можем увидеть текущие массивы (собственно, они видны на скриншоте), взглянуть на их настройки (Enter ), посмотреть на диски вне RAID (Ctrl+V ) или, скажем, создать новые рейды (Ctrl+C ). Нас интересует создание, а посему жмём в соответствующее сочетание клавиш.

Далее мы будем наблюдать меню для создания RAID- а (сверху) и сами одинокие (вне массивов) диски (внизу). Параметры переключаются пробелом, сами пункты параметров меняются стрелками клавиатуры.

Напоминаю, что 1 -ый рейд - это "зеркало", т.е диски дублируют друг друга и даже, если один выходит из строя, то на втором остаётся полная копия данных.

0 -вой же отвечает за производительность, т.е оба диска работают в паре для достижения максимально доступной скорости чтения-записи. Более подробно я расписывал всё по ссылке, что давал в самом начале статьи.

Дальнейшие шаги по созданию

На скриншоте выше задано всё необходимое для создания RAID 1 (зеркало), хотя и задавать там особо было нечего: все параметры оставлены по умолчанию, выбран тип рейда и указаны два диска-терабайника (Y в колонке Assingment ). На этом всё. Я не хочу сейчас вдаваться в детали всех параметров, ибо это тема для отдельной статьи (кратенько с практической стороны на sonikelf.name ).

Задав всё необходимое жмём в CTRL-Y . Далее либо жмём любую кнопку (задаст имя по умолчанию), либо повторяем нажатие CTRL-Y , чтобы задать имя самостоятельно. Я выбрал второй путь:

На следующем этапе, в связи с тем, что мы выбрали стандартный параметр быстрой инициализации появиться предупреждение о том, что данные с дисков будут удалены. Жмём CTRL-Y , если уверены, что ничего на дисках Вам необходимого нет.

На последнем этапе будет предложено выбрать размер, что будет отводиться под рейд массив или занять всё доступное место на дисках. Я выбрал в данном пункте решение занять всё место на дисках (что, к слову, рекомендую и Вам), путём нажатия любой кнопки на клавиатуре.

На этом создания RAID -а можно считать завершенным, остаётся лишь выйти из мастера и перезагрузить компьютер.

А, и да, не забудьте, при необходимости, зайти в мастер управления дисками и провести инициализацию и распределения места на новосозданном RAID -массиве. Мастер живет по пути "Панель управления - Администрирование - Управление компьютером - Управление дисками ".

Ну и, собственно, распределение места, т.е создание разделов, тоже проблем особо не доставляет и выполняется стандартным образом:

А и, да, драйвера для такой штуки как рейд массив полезно будет установить, если конечно они не стоят у Вас уже давно. Драйвера берутся с диска к мат.плате или с сайта производителя этой мат.платы.

На сим, пожалуй, всё.

Послесловие

Вот такие дела. Кратенько, быстро и наглядно (хотя, признаю, что фотографии не самые удачные, но снимать скриншоты эмулятором или на зеркалку как-то не с руки, ведь, в данном случае, таки главное суть), зато теперь Вы можете быстро собрать рейд массив.

Как и всегда, если какие-то вопросы, дополнения, мысли и всё такое прочее, то добро пожаловать в комментарии к этой записи.

Оставайтесь с нами;)

Все современные материнские платы оснащены интегрированным RAID-контроллером, а топовые модели имеют даже по нескольку интегрированных RAID-контроллеров. Насколько интегрированные RAID-контроллеры востребованы домашними пользователями - вопрос отдельный. В любом случае современная материнская плата предоставляет пользователю возможность создания RAID-массива из нескольких дисков. Однако далеко не каждый домашний пользователь знает, как создать RAID-массив, какой уровень массива выбрать, да и вообще плохо представляет себе плюсы и минусы использования RAID-массивов.
В этой статье мы дадим краткие рекомендации по созданию RAID-массивов на домашних ПК и на конкретном примере продемонстрируем, каким образом можно самостоятельно протестировать производительность RAID-массива.

История создания

Впервые термин «RAID-массив» появился в 1987 году, когда американские исследователи Паттерсон, Гибсон и Катц из Калифорнийского университета Беркли в своей статье «Избыточный массив недорогих дисков» (“A Case for Redundant Arrays of Inexpensive Discs, RAID”) описали, каким образом можно объединить несколько дешевых жестких дисков в одно логическое устройство так, чтобы в результате повышались емкость и быстродействие системы, а отказ отдельных дисков не приводил к отказу всей системы.

С момента выхода этой статьи прошло уже более 20 лет, но технология построения RAID-массивов не утратила актуальности и сегодня. Единственное, что изменилось с тех пор, - это расшифровка аббревиатуры RAID. Дело в том, что первоначально RAID-массивы строились вовсе не на дешевых дисках, поэтому слово Inexpensive (недорогие) поменяли на Independent (независимые), что больше соответствовало действительности.

Принцип действия

Итак, RAID - это избыточный массив независимых дисков (Redundant Arrays of Independent Discs), на который возлагается задача обеспечения отказоустойчивости и повышения производительности. Отказоустойчивость достигается за счет избыточности. То есть часть емкости дискового пространства отводится для служебных целей, становясь недоступной для пользователя.

Повышение производительности дисковой подсистемы обеспечивается одновременной работой нескольких дисков, и в этом смысле чем больше дисков в массиве (до определенного предела), тем лучше.

Совместную работу дисков в массиве можно организовать с помощью либо параллельного, либо независимого доступа. При параллельном доступе дисковое пространство разбивается на блоки (полоски) для записи данных. Аналогично информация, подлежащая записи на диск, разбивается на такие же блоки. При записи отдельные блоки записываются на разные диски, причем запись нескольких блоков на различные диски происходит одновременно, что и приводит к увеличению производительности в операциях записи. Нужная информация также считывается отдельными блоками одновременно с нескольких дисков, что тоже способствует росту производительности пропорционально количеству дисков в массиве.

Следует отметить, что модель с параллельным доступом реализуется только при условии, что размер запроса на запись данных больше размера самого блока. В противном случае осуществлять параллельную запись нескольких блоков практически невозможно. Представим ситуацию, когда размер отдельного блока составляет 8 Кбайт, а размер запроса на запись данных - 64 Кбайт. В этом случае исходная информация нарезается на восемь блоков по 8 Кбайт каждый. Если имеется массив из четырех дисков, то одновременно можно записать четыре блока, или 32 Кбайт, за один раз. Очевидно, что в рассмотренном примере скорость записи и скорость считывания окажутся в четыре раза выше, чем при использовании одного диска. Это справедливо лишь для идеальной ситуации, однако размер запроса далеко не всегда кратен размеру блока и количеству дисков в массиве.

Если же размер записываемых данных меньше размера блока, то реализуется принципиально иная модель - независимый доступ. Более того, эта модель может использоваться и в том случае, когда размер записываемых данных больше размера одного блока. При независимом доступе все данные отдельного запроса записываются на отдельный диск, то есть ситуация идентична работе с одним диском. Преимущество модели с независимым доступом в том, что при одновременном поступлении нескольких запросов на запись (чтение) все они будут выполняться на отдельных дисках независимо друг от друга. Подобная ситуация типична, например, для серверов.

В соответствии с различными типами доступа существуют и разные типы RAID-массивов, которые принято характеризовать уровнями RAID. Кроме типа доступа, уровни RAID различаются способом размещения и формирования избыточной информации. Избыточная информация может либо размещаться на специально выделенном диске, либо распределяться между всеми дисками. Способов формирования этой информации достаточно много. Простейший из них - это полное дублирование (100-процентная избыточность), или зеркалирование. Кроме того, используются коды с коррекцией ошибок, а также вычисление четности.

Уровни RAID-массивов

В настоящее время существует несколько RAID-уровней, которые можно считать стандартизованными, - это RAID 0, RAID 1, RAID 2, RAID 3, RAID 4, RAID 5 и RAID 6.

Применяются также различные комбинации RAID-уровней, что позволяет объединить их достоинства. Обычно это комбинация какого-либо отказоустойчивого уровня и нулевого уровня, применяемого для повышения производительности (RAID 1+0, RAID 0+1, RAID 50).

Отметим, что все современные RAID-контроллеры поддерживают функцию JBOD (Just a Bench Of Disks), которая не предназначена для создания массивов, - она обеспечивает возможность подключения к RAID-контроллеру отдельных дисков.

Нужно отметить, что интегрированные на материнские платы для домашних ПК RAID-контроллеры поддерживают далеко не все RAID-уровни. Двухпортовые RAID-контроллеры поддерживают только уровни 0 и 1, а RAID-контроллеры с большим количество портов (например, 6-портовый RAID-контроллер, интегрированный в южный мост чипсета ICH9R/ICH10R) - также уровни 10 и 5.

Кроме того, если говорить о материнских платах на чипсетах Intel, то в них тоже реализована функция Intel Matrix RAID, которая позволяет создать на нескольких жестких дисках одновременно RAID-матрицы нескольких уровней, выделив для каждой из них часть дискового пространства.

RAID 0

RAID уровня 0, строго говоря, не является избыточным массивом и соответственно не обеспечивает надежности хранения данных. Тем не менее данный уровень активно применяется в случаях, когда необходимо обеспечить высокую производительность дисковой подсистемы. При создании RAID-массива уровня 0 информация разбивается на блоки (иногда эти блоки называют страйпами (stripe)), которые записываются на отдельные диски, то есть создается система с параллельным доступом (если, конечно, это позволяет размер блока). Благодаря возможности одновременного ввода-вывода с нескольких дисков, RAID 0 обеспечивает максимальную скорость передачи данных и максимальную эффективность использования дискового пространства, поскольку не требуется места для хранения контрольных сумм. Реализация этого уровня очень проста. В основном RAID 0 применяется в тех областях, где требуется быстрая передача большого объема данных.

RAID 1 (Mirrored disk)

RAID уровня 1 - это массив двух дисков со 100-процентной избыточностью. То есть данные при этом просто полностью дублируются (зеркалируются), за счет чего достигается очень высокий уровень надежности (как, впрочем, и стоимости). Отметим, что для реализации уровня 1 не требуется предварительно разбивать диски и данные на блоки. В простейшем случае два диска содержат одинаковую информацию и являются одним логическим диском. При выходе из строя одного диска его функции выполняет другой (что абсолютно прозрачно для пользователя). Восстановление массива выполняется простым копированием. Кроме того, этот уровень удваивает скорость считывания информации, так как эта операция может выполняться одновременно с двух дисков. Подобная схема хранения информации используется в основном в тех случаях, когда цена безопасности данных гораздо выше стоимости реализации системы хранения.

RAID 5

RAID 5 - это отказоустойчивый дисковый массив с распределенным хранением контрольных сумм. При записи поток данных разбивается на блоки (страйпы) на уровне байтов и одновременно записываются на все диски массива в циклическом порядке.

Предположим, что массив содержит n дисков, а размер страйпа d . Для каждой порции из n–1 страйпов рассчитывается контрольная сумма p .

Cтрайп d 1 записывается на первый диск, страйп d 2 - на второй и так далее вплоть до страйпа d n–1 , который записывается на (n –1)-й диск. Далее на n -й диск записывается контрольная сумма p n , и процесс циклически повторяется с первого диска, на который записывается страйп d n .

Процесс записи (n–1) страйпов и их контрольной суммы производится одновременно на все n дисков.

Для вычисления контрольной суммы используется поразрядная операция «исключающего ИЛИ» (XOR), применяемая к записываемым блокам данных. Так, если имеется n жестких дисков, d - блок данных (страйп), то контрольная сумма рассчитывается по следующей формуле:

p n = d 1 d 2 ... d 1–1 .

В случае выхода из строя любого диска данные на нем можно восстановить по контрольным данным и по данным, оставшимся на исправных дисках.

В качестве иллюстрации рассмотрим блоки размером по четыре бита. Пусть имеются всего пять дисков для хранения данных и записи контрольных сумм. Если есть последовательность битов 1101 0011 1100 1011, разбитая на блоки по четыре бита, то для расчета контрольной суммы необходимо выполнить следующую поразрядную операцию:

1101 0011 1100 1011 = 1001.

Таким образом, контрольная сумма, записываемая на пятый диск, равна 1001.

Если один из дисков, например четвертый, вышел из строя, то блок d 4 = 1100 окажется недоступным при считывании. Однако его значение легко восстановить по контрольной сумме и по значениям остальных блоков с помощью все той же операции «исключающего ИЛИ»:

d 4 = d 1 d 2 d 4 p 5 .

В нашем примере получим:

d 4 = (1101) (0011) (1100) (1011) = 1001.

В случае RAID 5 все диски массива имеют одинаковый размер, однако общая емкость дисковой подсистемы, доступной для записи, становится меньше ровно на один диск. Например, если пять дисков имеют размер 100 Гбайт, то фактический размер массива составляет 400 Гбайт, поскольку 100 Гбайт отводится на контрольную информацию.

RAID 5 может быть построен на трех и более жестких дисках. С увеличением количества жестких дисков в массиве его избыточность уменьшается.

RAID 5 имеет архитектуру независимого доступа, что обеспечивает возможность одновременного выполнения нескольких операций считывания или записи.

RAID 10

Уровень RAID 10 представляет собой некое сочетание уровней 0 и 1. Минимально для этого уровня требуются четыре диска. В массиве RAID 10 из четырех дисков они попарно объединяются в массивы уровня 0, а оба этих массива как логические диски объединяются в массив уровня 1. Возможен и другой подход: первоначально диски объединяются в зеркальные массивы уровня 1, а затем логические диски на основе этих массивов - в массив уровня 0.

Intel Matrix RAID

Рассмотренные RAID-массивы уровней 5 и 1 редко используются в домашних условиях, что связано прежде всего с высокой стоимостью подобных решений. Наиболее часто для домашних ПК применяется именно массив уровня 0 на двух дисках. Как мы уже отмечали, RAID уровня 0 не обеспечивает безопасности хранения данных, а потому конечные пользователи сталкиваются с выбором: создавать быстрый, но не обеспечивающий надежности хранения данных RAID-массив уровня 0 или же, увеличивая стоимость дискового пространства в два раза, - RAID-массив уровня 1, который обеспечивает надежность хранения данных, однако не позволяет получить существенного выигрыша в производительности.

Для того чтобы разрешить эту нелегкую проблему, корпорация Intel разработала технологию Intel Matrix Storage, позволяющую объединить достоинства массивов уровней 0 и 1 всего на двух физических дисках. А для того, чтобы подчеркнуть, что речь в данном случае идет не просто о RAID-массиве, а о массиве, сочетающем в себе и физические и логические диски, в названии технологии вместо слова «массив» используется слово «матрица».

Итак, что же представляет собой RAID-матрица из двух дисков по технологии Intel Matrix Storage? Основная идея заключается в том, что при наличии в системе нескольких жестких дисков и материнской платы с чипсетом Intel, поддерживающим технологию Intel Matrix Storage, возможно разделение дискового пространства на несколько частей, каждая из которых будет функционировать как отдельный RAID-массив.

Рассмотрим простой пример RAID-матрицы из двух дисков по 120 Гбайт каждый. Любой из дисков можно разбить на два логических диска, например по 40 и 80 Гбайт. Далее два логических диска одного размера (например, по 40 Гбайт) можно объединить в RAID-матрицу уровня 1, а оставшиеся логические диски - в RAID-матрицу уровня 0.

В принципе, используя два физических диска, также можно создать всего одну или две RAID-матрицы уровня 0, но вот получить только матрицы уровня 1 невозможно. То есть если в системе имеются всего два диска, то технология Intel Matrix Storage позволяет создавать следующие типы RAID-матриц:

  • одна матрица уровня 0;
  • две матрицы уровня 0;
  • матрица уровня 0 и матрица уровня 1.

Если в системе установлены три жестких диска, то возможно создание следующих типов RAID-матриц:

  • одна матрица уровня 0;
  • одна матрица уровня 5;
  • две матрицы уровня 0;
  • две матрицы уровня 5;
  • матрица уровня 0 и матрица уровня 5.

Если в системе установлены четыре жестких диска, то дополнительно имеется возможность создать RAID-матрицу уровня 10, а также комбинации уровня 10 и уровня 0 или 5.

От теории к практике

Ели говорить о домашних компьютерах, то наиболее востребованными и популярными являются RAID-массивы уровней 0 и 1. Использование RAID-массивов из трех и более дисков в домашних ПК - скорее исключение из правила. Связано это с тем, что, с одной стороны, стоимость RAID-массивов возрастает пропорционально количеству задействованных в нем дисков, а с другой - для домашних компьютеров первоочередное значение имеет емкость дискового массива, а не его производительность и надежность.

Поэтому в дальнейшем мы рассмотрим RAID-массивы уровней 0 и 1 на основе только двух дисков. В задачу нашего исследования будет входить сравнение производительности и функциональности RAID-массивов уровней 0 и 1, созданных на базе нескольких интегрированных RAID-контроллеров, а также исследование зависимости скоростных характеристик RAID-массива от размера страйпа.

Дело в том, что хотя теоретически при использовании RAID-массива уровня 0 скорость чтения и записи должна возрастать вдвое, на практике возрастание скоростных характеристик гораздо менее скромное и для разных RAID-контроллеров оно различно. Аналогично и для RAID-массива уровня 1: несмотря на то что теоретически скорость чтения должна увеличиваться вдвое, на практике не всё так гладко.

Для нашего сравнительного тестирования RAID-контроллеров мы использовали материнскую плату Gigabyte GA-EX58A-UD7. Эта плата основана на чипсете Intel X58 Express с южным мостом ICH10R, имеющим интегрированный RAID-контроллер на шесть портов SATA II, который поддерживает организацию RAID-массивов уровней 0, 1, 10 и 5 с функцией Intel Matrix RAID. Кроме того, на плате Gigabyte GA-EX58A-UD7 интегрирован RAID-контроллер GIGABYTE SATA2, на базе которого реализованы два порта SATA II c возможностью организации RAID-массивов уровней 0, 1 и JBOD.

Также на плате GA-EX58A-UD7 интегрирован SATA III-контроллер Marvell 9128, на базе которого реализованы два порта SATA III c возможностью организации RAID-массивов уровней 0, 1 и JBOD.

Таким образом, на плате Gigabyte GA-EX58A-UD7 имеются три отдельных RAID-контроллера, на базе которых можно создать RAID-массивы уровней 0 и 1 и сравнить их друг с другом. Напомним, что стандарт SATA III обратно совместим со стандартом SATA II, поэтому на базе контроллера Marvell 9128, поддерживающего диски с интерфейсом SATA III, можно также создавать RAID-массивы с использованием дисков с интерфейсом SATA II.

Стенд для тестирования имел следующую конфигурацию:

  • процессор - Intel Core i7-965 Extreme Edition;
  • материнская плата - Gigabyte GA-EX58A-UD7;
  • версия BIOS - F2a;
  • жесткие диски - два диска Western Digital WD1002FBYS, один диск Western Digital WD3200AAKS;
  • интегрированные RAID-контроллеры:
  • ICH10R,
  • GIGABYTE SATA2,
  • Marvell 9128;
  • память - DDR3-1066;
  • объем памяти - 3 Гбайт (три модуля по 1024 Мбайт);
  • режим работы памяти - DDR3-1333, трехканальный режим работы;
  • видеокарта - Gigabyte GeForce GTS295;
  • блок питания - Tagan 1300W.

Тестирование проводилось под управлением операционной системы Microsoft Windows 7 Ultimate (32-bit). Операционная система инсталлировалась на диск Western Digital WD3200AAKS, который подключался к порту контроллера SATA II, интегрированного в южный мост ICH10R. RAID-массив собирался на двух дисках WD1002FBYS с интерфейсом SATA II.

Для измерения скоростных характеристик создаваемых RAID-массивов мы использовали утилиту IOmeter, которая является отраслевым стандартом для измерения производительности дисковых систем.

Утилита IOmeter

Поскольку мы задумывали эту статью как своеобразное руководство пользователя по созданию и тестированию RAID-массивов, логично будет начать с описания утилиты IOmeter (Input/Output meter), которая, как мы уже отметили, является своеобразным отраслевым стандартом для измерения производительности дисковых систем. Данная утилита бесплатна, и ее можно скачать с ресурса http://www.iometer.org.

Утилита IOmeter является синтетическим тестом и позволяет работать с неразбитыми на логические разделы жесткими дисками, благодаря чему можно тестировать диски независимо от файловой структуры и свести к нулю влияние операционной системы.

При тестировании возможно создание специфической модели доступа, или «паттерна», которая позволяет конкретизировать выполнение жестким диском специфических операций. В случае создания конкретной модели доступа разрешается менять следующие параметры:

  • размер запроса на передачу данных;
  • случайное/последовательное распределение (в %);
  • распределение операций чтения/записи (в %);
  • количество отдельных операций ввода-вывода, работающих параллельно.

Утилита IOmeter не требует инсталляции на компьютер и состоит из двух частей: собственно IOmeter и Dynamo.

IOmeter - это контролирующая часть программы с пользовательским графическим интерфейсом, позволяющим производить все необходимые настройки. Dynamo - это генератор нагрузки, который не имеет интерфейса. Каждый раз при запуске файла IOmeter.exe автоматически запускается и генератор нагрузки Dynamo.exe.

Для того чтобы начать работу с программой IOmeter, достаточно запустить файл IOmeter.exe. При этом открывается главное окно программы IOmeter (рис. 1).

Рис. 1. Главное окно программы IOmeter

Нужно отметить, что утилита IOmeter позволяет производить тестирование не только локальных дисковых систем (DAS), но и сетевых накопителей (NAS). К примеру, с ее помощью можно протестировать производительность дисковой подсистемы сервера (файл-сервера), используя для этого несколько сетевых клиентов. Поэтому часть закладок и инструментов в окне утилиты IOmeter относится именно к сетевым настройкам программы. Понятно, что при тестировании дисков и RAID-массивов эти возможности программы нам не потребуются, а потому мы не станем объяснять назначение всех вкладок и инструментов.

Итак, при запуске программы IOmeter в левой части главного окна (в окне Topology) будет отображаться древовидная структура всех запущенных генераторов нагрузки (экземпляров Dynamo). Каждый запущенный экземпляр генератора нагрузки Dynamo называется менеджером (manager). Кроме того, программа IOmeter является многопотоковой и каждый отдельный запущенный поток экземпляра генератора нагрузки Dynamo называется Worker. Количество запущенных Worker’ов всегда соответствует количеству логических ядер процессора.

В нашем примере используется только один компьютер с четырехъядерным процессором, поддерживающим технологию Hyper-Threading, поэтому запускается лишь один менеджер (один экземпляр Dynamo) и восемь (по количеству логических ядер процессора) Worker’ов.

Собственно, для тестирования дисков в данном окне нет необходимости что-либо менять или добавлять.

Если выделить мышью название компьютера в древовидной структуре запущенных экземпляров Dynamo, то в окне Target на вкладке Disk Target отобразятся все диски, дисковые массивы и прочие накопители (включая сетевые), установленные в компьютере. Это те накопители, с которыми программа IOmeter может работать. Носители могут быть помечены желтым или голубым цветом. Желтым цветом отмечаются логические разделы носителей, а голубым - физические устройства без созданных на них логических разделов. Логический раздел может быть перечеркнут или не перечеркнут. Дело в том, что для работы программы с логическим разделом его нужно прежде подготовить, создав на нем специальный файл, равный по размеру емкости всего логического раздела. Если логический раздел перечеркнут, то это значит, что раздел еще не подготовлен для тестирования (он будет подготовлен автоматически на первом этапе тестирования), ну а если раздел не перечеркнут, то это означает, что на логическом разделе уже создан файл, полностью готовый для тестирования.

Отметим, что, несмотря на поддерживаемую возможность работы с логическими разделами, оптимально тестировать именно не разбитые на логические разделы диски. Удалить логический раздел диска можно очень просто - через оснастку Disk Management . Для доступа к ней достаточно щелкнуть правой кнопкой мыши на значке Computer на рабочем столе и в открывшемся меню выбрать пункт Manage . В открывшемся окне Computer Management в левой части необходимо выбрать пункт Storage , а в нем - Disk Management . После этого в правой части окна Computer Management отобразятся все подключенные диски. Щелкнув правой кнопкой по нужному диску и выбрав в открывшемся меню пункт Delete Volume …, можно удалить логический раздел на физическом диске. Напомним, что при удалении с диска логического раздела вся информация на нем удаляется без возможности восстановления.

Вообще, с помощью утилиты IOmeter тестировать можно только чистые диски или дисковые массивы. То есть нельзя протестировать диск или дисковый массив, на котором установлена операционная система.

Итак, вернемся к описанию утилиты IOmeter. В окне Target на вкладке Disk Target необходимо выбрать тот диск (или дисковый массив), который будет подвергаться тестированию. Далее необходимо открыть вкладку Access Specifications (рис. 2), на которой можно будет определить сценарий тестирования.

Рис. 2. Вкладка Access Specifications утилиты IOmeter

В окне Global Access Specifications имеется список предустановленных сценариев тестирования, которые можно присвоить менеджеру загрузки. Впрочем, эти сценарии нам не понадобятся, поэтому все их можно выделить и удалить (для этого предусмотрена кнопка Delete ). После этого нажмем на кнопку New , чтобы создать новый сценарий тестирования. В открывшемся окне Edit Access Specification можно определить сценарий загрузки диска или RAID-массива.

Предположим, мы хотим выяснить зависимость скорости последовательного (линейного) чтения и записи от размера блока запроса на передачу данных. Для этого нам нужно сформировать последовательность сценариев загрузки в режиме последовательного чтения при различных размерах блока, а затем последовательность сценариев загрузки в режиме последовательной записи при различных размерах блока. Обычно размеры блоков выбираются в виде ряда, каждый член которого вдвое больше предыдущего, а первый член этого ряда равен 512 байт. То есть размеры блоков составляют следующий ряд: 512 байт, 1, 2, 4, 8, 16, 32, 64, 128, 256, 512 Кбайт, 1 Мбайт. Делать размер блока больше 1 Мбайт при последовательных операциях нет смысла, поскольку при таких больших размерах блока данных скорость последовательных операций не изменяется.

Итак, сформируем сценарий загрузки в режиме последовательного чтения для блока размером 512 байт.

В поле Name окна Edit Access Specification вводим название сценария загрузки. Например, Sequential_Read_512. Далее в поле Transfer Request Size задаем размер блока данных 512 байт. Ползунок Percent Random/Sequential Distribution (процентное соотношение между последовательными и выборочными операциями) сдвигаем до упора влево, чтобы все наши операции были только последовательными. Ну а ползунок , задающий процентное соотношение между операциями чтения и записи, сдвигаем до упора вправо, чтобы все наши операции были только чтением. Остальные параметры в окне Edit Access Specification менять не нужно (рис. 3).

Рис. 3. Окно Edit Access Specification для создания сценария загрузки последовательного чтения
при размере блока данных 512 байт

Нажимаем на кнопку Ok , и первый созданный нами сценарий отобразится в окне Global Access Specifications на вкладке Access Specifications утилиты IOmeter.

Аналогично нужно создать сценарии и для остальных блоков данных, однако, чтобы облегчить себе работу, проще не создавать сценарий каждый раз заново, нажимая для этого кнопку New , а, выбрав последний созданный сценарий, нажать кнопку Edit Copy (редактировать копию). После этого опять откроется окно Edit Access Specification с настройками нашего последнего созданного сценария. В нем достаточно будет поменять лишь название и размер блока. Проделав аналогичную процедуру для всех остальных размеров блоков, можно приступить к формированию сценариев для последовательной записи, что делается совершенно аналогично, за исключением того, что ползунок Percent Read/Write Distribution , задающий процентное соотношение между операциями чтения и записи, нужно сдвинуть до упора влево.

Аналогично можно создать сценарии для выборочной записи и чтения.

После того как все сценарии будут готовы, их нужно присвоить менеджеру загрузки, то есть указать, с какими сценариями будет работать Dynamo .

Для этого еще раз проверяем, что в окне Topology выделено название компьютера (то есть менеджер нагрузки на локальном ПК), а не отдельный Worker. Это гарантирует, что сценарии нагрузки будут присваиваться сразу всем Worker’ам. Далее в окне Global Access Specifications выделяем все созданные нами сценарии нагрузки и нажимаем кнопку Add . Все выделенные сценарии нагрузки добавятся в окно (рис. 4).

Рис. 4. Присвоение созданных сценариев нагрузки менеджеру нагрузки

После этого нужно перейти к вкладке Test Setup (рис. 5), на которой можно задать время выполнения каждого созданного нами сценария. Для этого в группе Run Time задаем время выполнения сценария нагрузки. Вполне достаточно будет задать время, равное 3 мин.

Рис. 5. Задание времени выполнения сценария нагрузки

Кроме того, в поле Test Description необходимо указать название всего теста. В принципе, данная вкладка имеет массу других настроек, однако для наших задач они не нужны.

После того как все необходимые настройки произведены, рекомендуется сохранить созданный тест, нажав на панели инструментов на кнопку с изображением дискеты. Тест сохраняется с расширением *.icf. Впоследствии можно будет воспользоваться созданным сценарием нагрузки, запустив не файл IOmeter.exe, а сохраненный файл с расширением *.icf.

Теперь можно приступить непосредственно к тестированию, нажав на кнопку с изображением флажка. Вам будет предложено указать название файла с результатами тестирования и выбрать его местоположение. Результаты тестирования сохраняются в CSV-файле, который потом легко экспортировать в Excel и, установив фильтр по первому столбцу, выбрать нужные данные с результатами тестирования.

В ходе тестирования промежуточные результаты можно наблюдать на вкладке Result Display , а определить, к какому сценарию нагрузки они относятся, можно на вкладке Access Specifications . В окне Assigned Access Specification исполняемый сценарий отображается зеленым, выполненные сценарии - красным, а еще не выполненные сценарии - синим цветом.

Итак, мы рассмотрели базовые приемы работы с утилитой IOmeter, которые потребуются для тестирования отдельных дисков или RAID-массивов. Отметим, что мы рассказали далеко не обо всех возможностях утилиты IOmeter, но описание всех ее возможностей выходит за рамки данной статьи.

Создание RAID-массива на базе контроллера GIGABYTE SATA2

Итак, мы начинаем создание RAID-массива на базе двух дисков с использованием интегрированного на плате RAID-контроллера GIGABYTE SATA2. Конечно, сама компания Gigabyte не производит чипов, а потому под чипом GIGABYTE SATA2 скрывается перемаркированный чип другой фирмы. Как можно выяснить из INF-файла драйвера, речь идет о контроллере серии JMicron JMB36x.

Доступ в меню настройки контроллера возможен на этапе загрузки системы, для чего нужно нажать комбинацию клавиш Ctrl+G, когда появится соответствующая надпись на экране. Естественно, прежде в настройках BIOS нужно определить режим работы двух SATA-портов, относящихся к контроллеру GIGABYTE SATA2, как RAID (в противном случае доступ в меню конфигуратора RAID-массива будет невозможен).

Меню настройки RAID-контроллера GIGABYTE SATA2 довольно простое. Как мы уже отмечали, контроллер является двухпортовым и позволяет создавать RAID-массивы уровня 0 или 1. Через меню настройки контроллера можно удалить или создать RAID-массив. При создании RAID-массива имеется возможность указать его название, выбрать уровень массива (0 или 1), задать размер страйпа для RAID 0 (128, 84, 32, 16, 8 или 4K), а также определить размер массива.

Если массив создан, то какие-либо изменения в нем уже невозможны. То есть нельзя впоследствии для созданного массива изменить, например, его уровень или размер страйпа. Для этого прежде нужно удалить массив (с потерей данных), а потом создать его заново. Собственно, это свойственно не только контроллеру GIGABYTE SATA2. Невозможность изменения параметров созданных RAID-массивов - особенность всех контроллеров, которая вытекает из самого принципа реализации RAID-массива.

После того как массив на базе контроллера GIGABYTE SATA2 создан, текущую информацию о нем можно просмотреть, используя утилиту GIGABYTE RAID Configurer, которая устанавливается автоматически вместе с драйвером.

Создание RAID-массива на базе контроллера Marvell 9128

Конфигурирование RAID-контроллера Marvell 9128 возможно только через настройки BIOS платы Gigabyte GA-EX58A-UD7. Вообще, нужно сказать, что меню конфигуратора контроллера Marvell 9128 несколько сыровато и может ввести в заблуждение неискушенных пользователей. Впрочем, об этих незначительных недоработках мы расскажем чуть позже, а пока рассмотрим основные функциональные возможности контроллера Marvell 9128.

Итак, несмотря на то что этот контроллер поддерживает работу с дисками с интерфейсом SATA III, он также полностью совместим с дисками с интерфейсом SATA II.

Контроллер Marvell 9128 позволяет создать RAID-массив уровней 0 и 1 на базе двух дисков. Для массива уровня 0 можно задать размер страйпа 32 или 64 Кбайт, а также указать имя массива. Кроме того, имеется и такая опция, как Gigabyte Rounding, которая нуждается в пояснении. Несмотря на название, созвучное с именем компании-производителя, функция Gigabyte Rounding никакого отношения к ней не имеет. Более того, она никак не связана с RAID-массивом уровня 0, хотя в настройках контроллера ее можно определить именно для массива этого уровня. Собственно, это первая из тех недоработок конфигуратора контроллера Marvell 9128, о которых мы упоминали. Функция Gigabyte Rounding определена только для RAID-массива уровня 1. Она позволяет использовать для создания RAID-массива уровня 1 два диска (например, различных производителей или разные модели), емкость которых немного отличается друг от друга. Функция Gigabyte Rounding как раз и задает разницу в размерах двух дисков, применяемых для создания RAID-массива уровня 1. В контроллере Marvell 9128 функция Gigabyte Rounding позволяет установить разницу в размерах дисков 1 или 10 Гбайт.

Еще одна недоработка конфигуратора контроллера Marvell 9128 заключается в том, что при создании RAID-массива уровня 1 у пользователя имеется возможность выбора размера страйпа (32 или 64 Кбайт). Однако понятие страйпа вообще не определено для RAID-массива уровня 1.

Создание RAID-массива на базе контроллера, интегрированного в ICH10R

RAID-контроллер, интегрированный в южный мост ICH10R, является самым распространенным. Как уже отмечалось, данный RAID-контроллер 6-портовый и поддерживает не только создание массивов RAID 0 и RAID 1, но также RAID 5 и RAID 10.

Доступ в меню настройки контроллера возможен на этапе загрузки системы, для чего нужно нажать комбинацию клавиш Ctrl+I, когда появится соответствующая надпись на экране. Естественно, прежде в настройках BIOS следует определить режим работы этого контроллера как RAID (в противном случае доступ в меню конфигуратора RAID-массива будет невозможен).

Меню настройки RAID-контроллера достаточно простое. Через меню настройки контроллера можно удалить или создать RAID-массив. При создании RAID-массива можно указать его название, выбрать уровень массива (0, 1, 5 или 10), задать размер страйпа для RAID 0 (128, 84, 32, 16, 8 или 4K), а также определить размер массива.

Сравнение производительности RAID-массивов

Для тестирования RAID-массивов с помощью утилиты IOmeter мы создали сценарии нагрузки последовательного чтения, последовательной записи, выборочного чтения и выборочной записи. Размеры блоков данных в каждом сценарии нагрузки составляли следующую последовательность: 512 байт, 1, 2, 4, 8, 16, 32, 64, 128, 256, 512 Кбайт, 1 Мбайт.

На каждом из RAID-контроллеров создавался массив RAID 0 со всеми допустимыми размерами страйпов и массив RAID 1. Кроме того, дабы иметь возможность оценить прирост производительности, получаемый от использования RAID-массива, мы также протестировали на каждом из RAID-контроллеров одиночный диск.

Итак, обратимся к результатам нашего тестирования.

Контроллер GIGABYTE SATA2

Прежде всего рассмотрим результаты тестирования RAID-массивов на базе контроллера GIGABYTE SATA2 (рис. 6-13). В общем-то контроллер оказался в буквальном смысле загадочным, а его производительность просто разочаровала.

Рис. 6. Скорость последовательных
и выборочных операций для диска
Western Digital WD1002FBYS

Рис. 7. Скорость последовательных

c размером страйпа 128 Кбайт
(контроллер GIGABYTE SATA2)

Рис. 12. Скорость последовательных
и выборочных операций для RAID 0
c размером страйпа 4 Кбайт
(контроллер GIGABYTE SATA2)

Рис. 13. Скорость последовательных
и выборочных операций
для RAID 1 (контроллер GIGABYTE SATA2)

Если посмотреть на скоростные характеристики одного диска (без RAID-массива), то максимальная скорость последовательного чтения составляет 102 Мбайт/с, а максимальная скорость последовательной записи - 107 Мбайт/с.

При создании массива RAID 0 с размером страйпа 128 Кбайт максимальная скорость последовательного чтения и записи увеличивается до 125 Мбайт/с, то есть возрастает примерно на 22%.

При размере страйпа 64, 32 или 16 Кбайт максимальная скорость последовательного чтения составляет 130 Мбайт/с, а максимальная скорость последовательной записи - 141 Мбайт/с. То есть при указанных размерах страйпа максимальная скорость последовательного чтения возрастает на 27%, а максимальная скорость последовательной записи - на 31%.

Вообще-то это маловато для массива уровня 0, и хотелось бы, чтобы максимальная скорость последовательных операций была выше.

При размере страйпа 8 Кбайт максимальная скорость последовательных операций (чтения и записи) остается примерно такой же, как и при размере страйпа 64, 32 или 16 Кбайт, однако с выборочным чтением - явные проблемы. При увеличении размера блока данных вплоть до 128 Кбайт скорость выборочного чтения (как и должно быть) возрастает пропорционально размеру блока данных. Однако при размере блока данных более 128 Кбайт скорость выборочного чтения падает практически до нуля (примерно до 0,1 Мбайт/с).

При размере страйпа 4 Кбайт падает не только скорость выборочного чтения при размере блока более 128 Кбайт, но и скорость последовательного чтения при размере блока более 16 Кбайт.

Использование массива RAID 1 на контроллере GIGABYTE SATA2 практически не изменяет (в сравнении с одиночным диском) скорость последовательного чтения, однако максимальная скорость последовательной записи уменьшается до 75 Мбайт/с. Напомним, что для массива RAID 1 скорость чтения должна возрастать, а скорость записи не должна уменьшаться в сравнении со скоростью чтения и записи одиночного диска.

На основании результатов тестирования контроллера GIGABYTE SATA2 можно сделать только один вывод. Использовать данный контроллер для создания массивов RAID 0 и RAID 1 имеет смысл только в том случае, когда все остальные RAID-контроллеры (Marvell 9128, ICH10R) уже задействованы. Хотя представить себе подобную ситуацию довольно сложно.

Контроллер Marvell 9128

Контроллер Marvell 9128 продемонстрировал гораздо более высокие скоростные характеристики в сравнении с контроллером GIGABYTE SATA2 (рис. 14-17). Собственно, различия проявляются даже при работе контроллера с одним диском. Если для контроллера GIGABYTE SATA2 максимальная скорость последовательного чтения составляет 102 Мбайт/с и достигается при размере блока данных 128 Кбайт, то для контроллера Marvell 9128 максимальная скорость последовательного чтения составляет 107 Мбайт/с и достигается при размере блока данных 16 Кбайт.

При создании массива RAID 0 с размером страйпа 64 и 32 Кбайт максимальная скорость последовательного чтения увеличивается до 211 Мбайт/с, а последовательной записи - до 185 Мбайт/с. То есть при указанных размерах страйпа максимальная скорость последовательного чтения возрастает на 97%, а максимальная скорость последовательной записи - на 73%.

Существенной разницы по скоростным показателям массива RAID 0 с размером страйпа 32 и 64 Кбайт не наблюдается, однако применение страйпа 32 Кбайт более предпочтительно, поскольку в этом случае скорость последовательных операций при размере блока менее 128 Кбайт будет немного выше.

При создании массива RAID 1 на контроллере Marvell 9128 максимальная скорость последовательных операций практически не изменяется в сравнении с одиночным диском. Так, если для одиночного диска максимальная скорость последовательных операций составляет 107 Мбайт/с, то для RAID 1 она равна 105 Мбайт/с. Также заметим, что для RAID 1 скорость выборочного чтения немного ухудшается.

В целом же нужно отметить, что контроллер Marvell 9128 обладает неплохими скоростными характеристиками и его вполне можно задействовать как для создания RAID-массивов, так и для подключения к нему одиночных дисков.

Контроллер ICH10R

RAID-контроллер, встроенный в ICH10R, оказался самым высокопроизводительным из всех протестированных нами (рис. 18-25). При работе с одиночным диском (без создания RAID-массива) его производительность фактически такая же, как и производительность контроллера Marvell 9128. Максимальная скорость последовательного чтения и записи составляет 107 Мбайт и достигается при размере блока данных 16 Кбайт.

Рис. 18. Скорость последовательных
и выборочных операций
для диска Western Digital WD1002FBYS (контроллер ICH10R)

Если говорить о массиве RAID 0 на контроллере ICH10R, то максимальная скорость последовательного чтения и записи не зависит от размера страйпа и составляет 212 Мбайт/с. От размера страйпа зависит лишь размер блока данных, при котором достигается максимальное значение скорости последовательного чтения и записи. Как показывают результаты тестирования, для RAID 0 на базе контроллера ICH10R оптимально использовать страйп размером 64 Кбайт. В этом случае максимальное значение скорости последовательного чтения и записи достигается при размере блока данных всего 16 Кбайт.

Итак, резюмируя, еще раз подчеркнем, что RAID-контроллер, встроенный в ICH10R, существенно превосходит по производительности все остальные интегрированные RAID-контроллеры. А учитывая, что он обладает и большей функциональностью, оптимально использовать именно этот контроллер и просто забыть о существовании всех остальных (если, конечно, в системе не применяются диски SATA III).

UFS Explorer RAID Recovery

UFS Explorer RAID Recovery является расширенной версией программного пакета UFS Explorer Standard Recovery (Classic) для восстановления сложных RAID-систем, а также потерянных и удалённых данных с этих систем.

Кроме сложных RAID-систем UFS Explorer RAID Recovery применим для других хранилищ. Можно восстанавливать потерянные данные с ПК, флеш-накопителя, карты памяти и т.д. Программа безопасна для данных, так как работает в режиме «только чтение». Не требует особых технических навыков, этот продукт отлично подойдет как для домашнего использования, так и для профессиональных задач по восстановлению массивов и потерянных данных.

Требования

  • Операционные системы:
    • Windows: начиная с NT v5.1 и более поздние версии;
    • Mac OS: Apple Mac OS X 10.6 и более поздние версии;
    • Linux: Ubuntu Linux 9.10 или совместимый и выше (glibc_2.0 и выше).
    • Intel Architecture, 32-bit (IA-32, x86);
    • AMD64 (x86-64).
  • Жесткий диск: не менее 20MB свободного пространства.
  • Оперативная память: не менее 1GB.
  • Прочее программное обеспечение: наличие любого веб-браузера.

Возможности

Explorer RAID Recovery включает в себя все возможности а также содержит встроенные RAID-конструктор (позволяющий работать с RAID-массивами любого уровня, как из физических дисков, так и виртуальных образов дисков) и шестнадцатеричный просмотрщик.

Программа даёт возможность определять и настраивать такие RAID-параметры, как начальный сектор, порядок дисков, размер блоков и т.д., и модифицировать созданные конфигурации при необходимости.

Виртуальная реконструкция и восстановление данных с RAID массивов

  • Данная версия ПО выполняет виртуальную реконструкцию RAID-массивов в случае неисправности контроллера или проблем со служебными записями. Утилита строит виртуальный RAID и читает с него файлы и папки как с реального массива. Поддерживаются как простейшие конфигурации RAID (уровни 0, 1 и 10) так и сложные (уровни 5, 6).
  • Функция «RAID-on-RAID» позволяет реконструировать RAID 50, RAID 60 и тому подобные конфигурации.
  • Встроенный RAID-конструктор является идеальным инструментом для работы с популярными NAS таких производителей как Buffalo Technology (TeraStation, LinkStation), Iomega, Synology, LaCie, Intel и т.п. UFS Explorer RAID Recovery распознает метаданные на дисках NAS, что помогает алгоритму реконструкции определить порядок дисков, уровень RAID, размеры секторов и т.д.
  • Поддерживается сохранение/загрузка конфигурации RAID-массива, изменение созданных конфигураций.

Работа с файлами дисков виртуальных машин

Поддержка импорта файлов дисков виртуальных машин (.vim). Позволяет открывать образы виртуальных машин от ведущих производителей (VMware Player, VMware Workstation, Microsoft Virtual PC, Microsoft Hyper-V, Parallels Desktop) и использовать их для восстановления данных.

Низкоуровневый доступ к информации

Встроенный шестнадцатеричный просмотрщик позволяет получить низкоуровневый доступ к данным на диске для проверки правильности конфигурации RAID.

Локализация

Определяет имена файлов даже на файловых системах, не поддерживающих unicode, и распознает UTF-16, UTF-8, ASCII с местными кодовыми страницами.

Интерфейс

Ниже приведён краткий обзор интерфейса. Более подробную информацию можно почерпнуть из справочного руководства, поставляемого вместе с программой.

Открывается при запуске программы, отображает информацию о подключенных накопителях, предоставляет доступ к основным инструментам программы и её настройкам.

1.1. Левая панель

Располагается в левой части главного окна, является деревом подключенных накопителей. С помощью левой панели можно выбрать диск или раздел, с которым будут вестись дальнейшие операции.

Корневой директорией дерева является элемент Этот компьютер . При выборе данного элемента в информационной панели доступна информация о системе, а также настройки программы.

Элемент Накопитель является подключенным физическим или виртуальным диском. С данным элементом доступны следующие действия: просмотр в шестнадцатеричном виде, поиск или задание раздела, создание резервной копии (образа диска) и удаление накопителя из программы.

Элемент Раздел является логическим разделом накопителя. Каждый раздел имеет цветовую маркировку, информирующую о состоянии файловой системы: иконка зеленого цвета - целостность, работоспособность и возможность чтения файловой системы; желтого цвета - возможное повреждение файловой системы, связанное с форматированием раздела или тем, что он, возможно, является частью RAID-массива; красного цвета - отсутствует возможность чтения файловой системы или проблемы чтения директорий; серого цвета - файловая система не была определена в процессе предварительного сканирования. Доступны следующие действия: просмотр файловой системы, поиск потерянных данных, загрузка результата сканирования, просмотр в шестнадцатеричном виде, тестирование файловой системы, создание резервной копии (образа диска) а также удаление раздела из программы.

1.2. Информационная панель

Находится в правой части главного окна. Отображает информацию о выбранном элементе левой панели.

Для элемента Этот компьютер доступна информация о подключенных физических устройствах, файлах образов дисков и составных хранилищ. Кроме того, доступны настройки программы и модулей.

При выборе элемента Накопитель отображается информация о типе, названии и ёмкости накопителя, а также характеристики физического диска.

Для элемента Раздел отображается информация об его физическом положении на накопителе, объеме и названии, а также данные о файловой системе раздела.

1.3. Тулбар информационной панели

Располагается непосредственно над информационной панелью, предоставляет доступ к основным операциям, возможным над выбранным элементом. Полный список операций находится в контекстном меню элемента.

1.4. Главное меню

Находится в верхней части программы.

Содержит следующие кнопки: «Открыть», «Плагины», «Построить RAID», «Руководство», «Лицензия», «О программе».

Открывается при нажатии кнопки «Просмотреть» на элементе типа раздел и для отображения результатов сканирования.

2.1. Тулбар файлового менеджера

Предоставляет доступ к основным функциям программы. С помощью данного тулбара можно запустить сканирование или сохранить выбранные результаты.

2.2. Адресная строка

Служит для отображения полного пути до данного каталога и используется для навигации по файловой системе или результатам сканирования.

В интерактивном режиме адресной строки она позволяет перемещаться по пути на один или несколько уровней вверх, нажимая на разделитель с названием папки. В текстовом режиме она позволяет задать путь в адресной строке вручную. Переключение в текстовый режим происходит нажатием на иконку «Папка» в левой части адресной строки, возврат к интерактивному режиму происходит после нажатия клавиши «Esc» на клавиатуре.

2.3. Поисковая строка

Находится в правом верхнем углу окна и позволяет осуществлять быстрый поиск файлов по имени и/или расширению (например, *.doc).

2.4. Левая панель

Отображает содержимое текущего раздела в виде дерева папок. После выполнения сканирования здесь можно увидеть его результаты в виде появившейся виртуальной корневой папки.

2.5. Правая панель

Выводит содержимое выбранной папки.

Открывается при нажатии кнопки Главного меню «Построить RAID».

3.1. Тулбар RAID-конструктора

Содержит функции для работы с элементами массива.

3.2. Левая панель

Отображает доступные в программе диски, образы дисков и разделы на них.

3.3. Перечень компонентов, включенных в RAID

Служит для выбора компонентов RAID-массива из левой панели.

3.4. Панель свойств RAID

Необходима для задания правильных параметров массива таких как: уровень, размер страйпа, распределение четности и задержка четности.

3.5. Режим работы интерфейса

Позволяет задать режим показа элементов в левой панели (показывать диски целиком для аппаратных RAID или включать разделы диска для программных RAID, разрешать включение более одного компонента с каждого диска и т.д.).

Восстановление RAID-массива

1. Подключение дисков

Для восстановления RAID-массива необходимо либо подключить физические диски массива к компьютеру, либо предварительно снять посекторные копии дисков и впоследствии работать с образами дисков. Второй вариант требует больше времени и пространства на хранилище, но более эффективен и безопасен. Создать посекторную копию можно в данной редакции ПО в контекстном меню элемента Накопитель функцией «Сделать резервную копию данных с данного диска».

После этого необходимо добавить образы дисков с помощью кнопки Главного меню «Открыть».

Следует убедиться, что все необходимые накопители подключены и правильно определены в программе. Если какой-либо накопитель не определился в программе, необходимо выбрать функцию «Повторно определить подключенные диски» в контекстном меню элемента Этот компьютер .

2. Использование RAID-конструктора

Для продолжения необходимо нажать кнопку Главного меню «Построить RAID».

Откроется окно RAID-конструктора, в котором необходимо в первую очередь редактировать свойства массива в панели свойств.

После этого необходимо выбрать компоненты массива в левой панели и добавить их в перечень компонентов, включенных в RAID.

Следует помнить, что добавлять компоненты нужно в правильном порядке. Если порядок неизвестен, можно перебирать различные варианты компоновки до достижения результата. Во время построения массивов данные не меняются, поэтому операцию можно производить любое число раз.

В случае если отсутствуют накопители (до одного для массива уровня 5, и до двух для массива уровня 6) можно добавить виртуальную замену диску, нажав кнопку «Замена» на тулбаре конструктора.

После проделанных операций можно включить режим предпросмотра получившегося массива до его построения, нажав кнопку «Предпросмотр» на тулбаре. В результате отобразится файловая система создаваемого массива.

Для перехода к следующему этапу восстановления необходимо нажать кнопку «Построить». В результате в левой панели Главного меню появится новый накопитель.

3. Восстановление разделов

Если у появившегося накопителя разделы определились верно – переходите к следующему шагу.

В противном случае необходимо либо самостоятельно задать параметры раздела (если они известны), либо включить поиск потерянных разделов в контекстном меню накопителя.

Откроется диалоговое окно с параметрами поиска. В нем следует выбрать необходимые файловые системы и диапазон поиска, после чего нажать кнопку «ОК».

Результатом сканирования будет список найденных файловых систем. Рядом с названием типа ФС располагаются иконки индикации состояния файловой системы.

Необходимо выбрать подходящие варианты, основываясь на параметрах файловой системы (начало, размер) и на их состоянии (в первую очередь следует проверять «хорошие» варианты с зеленой иконкой).

После выбора одного или нескольких разделов следует нажать кнопку «Использовать выбранные», после чего в левой панели главного окна появятся выбранные разделы.

4. Просмотр файловой системы и сканирование

В первую очередь стоит проверить состояние файловой системы. Для этого необходимо либо открыть её и оценить наличие необходимых данных, либо воспользоваться функцией «Тестировать файлы и папки» в контекстном меню.

Если состояние файловой системы удовлетворительное – можно переходить к следующему пункту для сохранения результатов.

В противном случае необходимо начать сканирование раздела для поиска потерянных данных.

Для этого следует выбрать функцию «Искать потерянные данные» в контекстном меню, либо нажать кнопку «Сканировать» на тулбаре информационной панели. В результате откроется диалоговое окно с выбором параметров сканирования. Необходимо указать тип файловой системы, диапазон поиска и нажать кнопку «Далее». В следующем меню нужно определиться с типом сканирования:

  • Детальное (посекторное) сканирование занимает большее время, но дает максимальный результат.
  • Сканирование IntelliRAW запустит поиск файлов по известным сигнатурам. Стоит применять в случае, если другое сканирование не дало результата.
  • При включенной опции «Предполагать фрагментацию удаленных файлов» программа будет анализировать остатки файловой системы и её особенности для предсказания расположения файлов.
  • В пункте «Правила IntelliRAW» можно добавить свои сигнатуры для необходимых типов файлов.

После выбора необходимых типов сканирования нужно нажать кнопку «Начать». Процесс сканирования может занять продолжительное время.

По завершении сканирования в левой панели появится новый каталог вида 20120520_152416, что означает текущие дату и время. В данном каталоге будет сохранен результат сканирования.

Папка «IntelliRAW» содержит найденные файлы, отсортированные по типу, а в папке «Parent Unknown» располагаются файлы и папки, местоположение которых определить не удалось.

5. Сохранение результатов

Для сохранения нужных данных можно воспользоваться кнопкой «Копировать в…» или функцией массового копирования, нажав кнопку «Задать отбор».

Навигацию по результатам можно осуществлять при помощи дерева каталогов, адресной строки и поисковой строки.

Дополнительная информация

Возникшие вопросы можно задать в соответствующем разделе