Сап /hw/, пришёл к вам за помощью: Есть один сервер на заводе, на нём крутится пятый рейд (intel rapid) и вот сегодня мне пожаловались на скорость открытия файлов, которые лежат соответственно на сервере. Я полез смотреть в чём дело, и наткнулся на возможную проблему (обратите внимание на второй скрин в параметр "включение"), причём сам интел рапид показывает статус рейда как хорошее. Скорее всего это и есть проблема медленной работы рейда, по крайней мере такого быть не должно. Реквистирую мысли анонов по поводу причины такого поведения, сам думаю на счёт питалова, но проверить сейчас офк не смогу, люди пока работают, но и сидеть до поздна тоже не в кайф, поэтому пришёл сюда услышать мысли анонов, поэтому прошу накидать возможных причин, что бы я сразу же их проверил. Спеки сервера: i7-4770k, мать asus z97-k, 16gb ddr3, raid-5 из трёх двух-терабайтных сегейтов, ещё один двух-терабайтник под бекапы (офк бекап дублируется и в облако тоже) и ссд евошка 850 на 250гигов, на сколько бп не знаю, внутрь полезу после того, как офисники уедут домой. P.S. блессрнг не разводите хитачи-вд-сигейто срач. Конструктивный хуесосинг ОПа приветствуется
>>3574819 (OP) Ну вот смотри антош. Поскольку у тебя NM серия, значит детальки в HDD куда более тщательнее и строже оттестированы при производстве. С учетом имеющейся наработки в часах а также наличие в двух из трех дисков индикации о не исправимых ошибках чтения (атрибут BB) можно сделать вывод что потихоньку начинает падать точность позиционирования головок, скорее всего износ механики. Если бы ты скинул полный смарт, то было бы видно сколько записи и чтения пережили диски. Если проблема не софтовая(гонит сам RAID), то зависания могут быть при попытке контроллера заново проюзать цилиндр диска, дабы внести поправки в рабочую область для будущей записи. Тут могут быть как проблемы с чтением плохого сектора(множественные попытки), так и с внутренними коллизиями в работе контроллера с плохими секторами в условиях когда нужно обслуживать внешний запрос на этот сектор. Вот почему я не люблю SATA в рейдах. Слишком маленькая очередь команд, проблемы с дуплексными операциями, очень "нежные" условия проверки целостности данных, просто мало нужных для рейда команд. SATA для рейда подходит очень слабо, скажем для высоко нагруженного рейда не подходит совсем. Тут нужен SAS, а лучше вообще U.2, но если корпоративный SSD не по карману, то купи любой дешманский HBA c одним или двумя SFF-8087 портами. SAS (SFF-8482) обеспечит двухпортовость, и решит многие проблемы "залипаний" в работе рейда. Ну а пока, по скольку есть бэкапы, вытаскивай диски и обнуляй их все, после смотри смарт и делай выводы и жизнеспособности железок. БП лучше иметь тестер, если нет, то воткни его в другой системник, и нагрузи чем нибудь. Это в случае апаратныйх проблем, в случае софта, ну тут уже нужна конкретика.
Можно я тут свою дебиловатую проблему опишу? Мамо на Z77, БП 700Вт ФСП, стоят: SSD 60Gb2 в RAID 0 (система) HDD 500Gb3 RAID 5 (Ценное) HDD 3000Gb без RAID (всякое хуйня)
Вопрос в том, что при небольшом простое появляется циклический звук запуска и останова винта. Не могу понять какого из. Смарты более-менее чистые, прогнал все винты Викторией - бедов нет.
>>3575841 Вот тебя-то я и ждал, да не дождался. >Полный смарт Я их проведу, но на выходных, сервер то "боевой лул", вынимать диски из сервера и проводить их смарт я смогу только тогда, когда не будет особой нагрузки. >Если проблема не софтовая(гонит сам RAID), то зависания могут быть при попытке контроллера заново проюзать цилиндр диска, дабы внести поправки в рабочую область для будущей записи. Т.е. было бы не плохо заменить два проблемных диска? Второй-то точно не жилец теперь, в рейде он у меня простоит только до выходных. Значит, если я заменю проблемные диски и проведу ребилд рейда, такая проблема уйдёт? >u.2 Думаю для нашего завода это "оверкилл", у нас не такая сильная нагрузка юзеров, которые обращаются к серверу. >SAS Вот это уже можно рассмотреть, причём я уже давно думаю попробовать выжать денег на NAS хранилище, но опять же, желательно не сильно дорогое. Как я понимаю, моё "желательно не сильно дорогое" это сборка на FreeNAS, но я с ним ещё не работал, а проблему хотелось бы решить как можно быстрее, хотя бы временно.
>>3577455 >>3577479 Спасибо за помощь, анонче, а для u.2 накопителей нужен какой-то свой рейд контроллер? Я так-то посмотрел, вроде есть ссд на 1тб за 15к, интеловский, там конечно скорость записи не такая большая, как у тех, что за 90к, но и больше чем у sas накопителей.
>>3578520 > а для u.2 накопителей нужен какой-то свой рейд контроллер? Да я написал вторым рейд контроллер - 9440-8i, или можно HBA тоже броадкомоский 9400-8I, >вроде есть ссд на 1тб за 15к, интеловский, там конечно скорость записи не такая большая Если ты про новоиспеченные QLC накопители Intel, то нет, я лучше на механике останусь чем с ними дело иметь. У них плавает латентность, ресурса нет, так как усиления записи минимум 4 единицы, да и линейные скорости не ахти.
>>3576696 Постоянно, стоп-старт-стоп-старт... При чём появляется после простоя. Если обращаться к винтам - звука нет, всё норм. Как-будто какой-то винт пытается уснуть, но ему не спится.
>>3574819 (OP) Анон, через пять лет после производства жесткие диски начинают превращаться в минное поле. Не еби себе мозг, купи два новых диска в два раза больше и сделай себе честный RAID 1.
Двухпортовые диски и SAS-контроллеры тебе нахер не нужны, у тебя один сервер (а у дисков по одной механике).
>>3583075 >Не еби себе мозг, купи два новых диска в два раза больше и сделай себе честный RAID 1. Истина. Если винда не обязон - еще бы перекатиться на линупс и накатить ZFS, чтобы не ебать себе мозги, что там и где не читается. По ночам 2 раза в неделю скраб сделаешь.
>>3583075 Да я думаю либо sas диски, либо u.2 ссд интеловские взять, если смогу рейд контроллер по дешевле найти, сата действительно уже пиздец в 2019 держать в рейде на сервере. Просто денег не так много, но думаю собрать рейд на sas дисках хватит.
Первое - перед любой возней с рейдом сделай бэкап РУЧКАМИ! Второе - НАХУЙ RAID5!!! Для файлопомойки - только 10-ка или 1-ка. Третье - винты в серваках = расходники. Всегда держи в запасе винт подкинуть вместо дохлого в рейд.
>>3583479 Все дешевые железные рейд-контроллеры - говно. Все дорогие - дорогие. Ваще не туда смотришь. > сата действительно уже пиздец в 2019 Чего пиздец-то? Давай как-то сопоставляй свой остальной конфиг. У тебя два БП? У тебя ИБП? У тебя ECC? - Хотя бы по одному пункту нет? Ну тогда SATA - не самая твоя большая проблема. Да, она будет подтормаживать, когда диски начали давать задержки. Ну так блядь поменяй диски и всё. Купи два новых трёхтерабайтника и поставь их в зеркало. >>3583824 Плохо себя чувствует на мелких операциях изменения данных. Охуительно стрёмно ребилдится в случае потери диска. Точно, 100% не для чуваков, чей рабочий объём данных всего лишь 2 тера.
>>3583824 Raid5 говно из-за его ненадежности. Если будут повреждены 2 сектора на разных дисках, он не восстановится. А вероятность такого проишествия, когда у тебя 5+ дисков довольно высока. На практике происходит так:
сломался диск в массиве @ ну, ничего, ведь у меня raid 5 :coolface: @ поставил новый диск, запустил ребилд @ Sector read error. Rebuild fail. :trollface:
>>3584627 >у тогда SATA - не самая твоя большая проблема САТА сегодня, это как конь в сравнении с электрокаром.
>Чего пиздец-то? Давай как-то сопоставляй свой остальной конфиг. У тебя два БП? У тебя ИБП? У тебя ECC? - Хотя бы по одному пункту нет? Ну тогда SATA - не самая твоя большая проблема. Да, она будет подтормаживать, когда диски начали давать задержки. Кто тут говорил про узкие места??? Тут задачи детально не расписаны, общий конфиг ОП опустил, значит с задачами справляется. Тут проблемы с подсистемой памяти. Решение данной проблемы с задачами что бы "раз и навсегда" требуется радикальное. ИБО: 1. Юзать под горячие данные механические ЖД это дно дна гроб кладбище пидор. Это максимум приемлемо с теплыми данными,и то, только SAS на 10к винтах. Холодные данные, тут да, LFF SAS объемом побольше, дабы все бэкапы влезали. 2. Не зачем обрезать себе потолком те возможности подсистемы которые могут понадобиться в будущем. Потому говорю что лучше брать корпоративный SSD SAS или U.2 на TLC NAND c DWPD равной единицы и функцией PLP. Это позволит забыть о возможных проблемах с подсистемой на ближайшие 10 лет. SAS или U.2 решать самому, если не предполагается использование б\у 10к дисков, то можно не жалеть и юзать только U.2. Да дорохо, да можно по проще, но безгеморойность куда дороже и ценнее. Что конкретно купить??? 1. Контроллер, - единственная дискретная штука с вменяемыми характеристиками, по скольку рейд уже не нужен, бери HBA, значит Broadcom 9400 8i. 2. К нем уберешь кабель аля SFF-8643 -> SFF-8639 (https://www.amazon.com/Funtin-SFF-8639-Mini-SAS-SFF-8643-Cable/dp/B01COOQ3MS) 3. Сам накопитель, 1.92 TB - https://www.span.com/product/Samsung-SSD-PM983-OEM-MZQLB1T9HAJR-00007-2-5-U-2-NVMe-1-92TB-SSD~68219 В общем цена вопроса $1000.
>>3587660 > Юзать под горячие данные механические ЖД это дно дна гроб кладбище пидор Бгг, блядь. Столько лет жили только на HDD и умели обходиться. А теперь всё, нельзя. И даже какому-то смолл-бизнес крокодилу с подстольным сервером тоже почему-то нельзя.
>>3587660 >В общем цена вопроса $1000. Долбоеб, у него весь "сервер" столько стоит. Ты вылезай из своего манямирка с 10k RPM-дисками, и уши просуши от мочи вендоров.
Ему нужно максимум два SATA-диска и (если хочет потратить деньги) NVMe в M.2 для кэширования. Этого ему хватит еще лет на пять до следующей замены дисков.
>>3587846 >Бгг, блядь. Столько лет жили только на HDD и умели обходиться. А теперь всё, нельзя. охуенно жили, блять, каждые три года подавай новые накопители, бэды, ремапы, ребилды, охуеть как надоело. >>3588093 >Долбоеб, у него весь "сервер" столько стоит. Да мне насрать на его "платформу", хочет не ебаться и по взрослому? написано выше.
>>3588157 >охуенно жили, блять, каждые три года подавай новые накопители SAS-диски тоже бэдами покрывается, у них такая же механика и пластины как в SATA. Прекращай уже дрочить на СЭРВЕР-ГРЭЙД ИНТЕРПРАЙЗ ХАЙПЕРКОНВЕРЖЕНТ СОЛЮШНЗ, заебало.
>хочет не ебаться и по взрослому? Это точно не к тебе, фанбой. Еще EMC или NetApp начни продавать тут.
>>3588170 >SAS-диски Аутист походу тут ты. Я про SAS\U.2 SSD >>3588170 >Еще EMC или NetApp начни продавать тут. Чем они тебе плохие? Расскажи как они тебе испортили жизнь, лол.
>>3588170 >SAS-диски тоже бэдами покрывается, у них такая же механика и пластины как в SATA. Прекращай уже дрочить на СЭРВЕР-ГРЭЙД ИНТЕРПРАЙЗ ХАЙПЕРКОНВЕРЖЕНТ СОЛЮШНЗ, заебало. >>3607835 Посаны ну вы чего? Механика уже прошлый век. Все нормальные и адекватные админы уже давно переезжают с нее на SAS\U.2 SSD. >Юзать под горячие данные механические ЖД это дно дна гроб кладбище пидор. Два самовара чаю этому джентельмену. Могу принести тесты пикрелейтеда всем заинтересованным. Их буду делать завтра. А так пишите чем и как именно интересно будет сие дивайс потестить.
>>3639309 >И сколько стоит такая хуёвина, 80к? Лол, $1,600 без ндс и растаможки. 4x 10k hdd на 2.4 TB обойдутся в $1400. То что выбор очевиден. >Вангую это б/у c ebay за 20к >с выработанным ресурсом и перешитыми метриками Легко проверить же. 27 Mar 2019. По тесту выдал куда больший результат в рандом записи\чтении 4kb 1QD по сравнению с того же объема сосунговским PM1633a конца 2017 с 64 слойной TLC на борту, то что тут 96 слойная BICS4 TLC 512 гбит. а значит не б.у. И кстати банка почему то напоминает ту, что у интеловского оптана стоит, а разъем тоже, контактов тут на SFF-8639 хватит, не только на SFF-8482. Жаль нет сервера или материнки с поддержкой U.2, вдруг контроллер двух режимный то на этом ssd.
Есть один сервер на заводе, на нём крутится пятый рейд (intel rapid) и вот сегодня мне пожаловались на скорость открытия файлов, которые лежат соответственно на сервере. Я полез смотреть в чём дело, и наткнулся на возможную проблему (обратите внимание на второй скрин в параметр "включение"), причём сам интел рапид показывает статус рейда как хорошее. Скорее всего это и есть проблема медленной работы рейда, по крайней мере такого быть не должно. Реквистирую мысли анонов по поводу причины такого поведения, сам думаю на счёт питалова, но проверить сейчас офк не смогу, люди пока работают, но и сидеть до поздна тоже не в кайф, поэтому пришёл сюда услышать мысли анонов, поэтому прошу накидать возможных причин, что бы я сразу же их проверил.
Спеки сервера:
i7-4770k, мать asus z97-k, 16gb ddr3, raid-5 из трёх двух-терабайтных сегейтов, ещё один двух-терабайтник под бекапы (офк бекап дублируется и в облако тоже) и ссд евошка 850 на 250гигов, на сколько бп не знаю, внутрь полезу после того, как офисники уедут домой.
P.S. блессрнг не разводите хитачи-вд-сигейто срач. Конструктивный хуесосинг ОПа приветствуется