« | C94夏コミのご案内 1日目 8/10 西1 も-40b »

foltia ANIME LOCKERの録画領域を安くなった6TBで冗長化して入れ替えようとしたらタイミング悪くディスククラッシュに遭遇した件

Posted on 2018/06/10 (日) 22:49
Filed Under foltia | | TrackBack | このエントリをはてなブックマークに追加 Share on Tumblr

タイトルだけでほぼ全てを言い切ってしまっているのだけど以下に詳しく。

foltia ANIME LOCKERをデフォルトでインストールするとLVMで冗長化されてないJBODの録画領域を作る。
手元のfoltia ANIME LOCKER機を見てみるとHGSTの2TBがJBODで6万時間(6.85年)の稼働時間を示していたんでそろそろ冗長構成にしたいなーと数年考えていた。(一度2014年08月ごろSeagateの3TBが突然死して全データが喪失した)

とゆータイミングで3月に突然Seagate 6TB相場が12,800円代に急落した。過去の経験からはSeagateは粘らず即死が多い感じだけども冗長化するのでまあいいかなということでひとまず4台購入。

構成は冗長化できて拡張もできる、mdadmとLVM組み合わせるDrobo的アルゴリズムのこれ。
「mdadm と LVM で作る、全手動 BeyondRAID もどき - 守破離」

どんな仕組みかというとざっくりいうとこんな感じ。絵があるとわかりやすい感じではあるのだけども。

・6TB HDDを2TBごとに3つのパーティションを切る。
・1番目のパーティション4台組み合わせたRAID5をmdadmで作る。
・2番目、3番目も同様にRAID5を作る。
・3つのRAID5をPVとしてLVMでまとめてLVを作る。

mdadmのRAID5はパーティション追加して拡張できるので便利。Linux on ZFSのRAID-Z拡張がそのうち実装されたらZFSもいけるかも。

とゆーわけで、別のマシン(hp Microserver)でアレイを組んでrsyncで既存データをコピーして、コピーし終わったところで入れ替えることにした。
そのままrsyncしようとすると17TBのコピーに数ヶ月掛かりそうな勢いだったので暗号化アルゴリズムをarcfourに変更して若干高速化。LAN内で録画データのコピーなんで高速化のために暗号化しないとかが選べればさらに高速化できたんだろうけどそういう選択肢はない模様。

で順調にデータを移動していると思っていた数日後に、コピー元の非冗長JBODの方からドライブの故障を示すエラーが出はじめて絶望。
調べてみるとまだ3万時間しか使ってない、しかしRMA期間は終わってるWD RED 4TBが壊れた。

慌てて方針転換してこのように。
・新規構築して数TBだけデータコピーしたアレイを元の録画機に入れて停止期間を最小に。
・6TBをもう一つ買い足して、WD RED 4TBをデュプリケータで複製。
・複製が終わったらアレイを取り出した方の機械(hp Microserver)に入れてデータ取り出し元に。

長い時間をかけてrsyncが完了してデータが統合されたら、REDをコピーした6TBも初期化してアレイに追加。6TBx5のRAID5になった。

そしてなんだかアレイのパフォーマンスがあまりにも悪いのでこれでチューニング。
「RAID5がiowait出まくりで遅いので、stripe_cache_sizeを増やした話 | Fusic Developers Weblog」
使用メモリはこの式でわかる。4096(ページサイズ)*8192(stripe_cache_size)*5(RAID5本数)

そして現在の構成はこんな感じ。
起動ドライブ WD RE4 500GB (hp Microserverから取り出したEnterprise Storageシリーズのドライブ)
録画領域 Seagate ST6000DM003 6TB x5台 RAID5 (22TiBくらい)
バックアップ USB接続6TB (DB DumpとMP4-SDだけrsyncしてる)

/dev/sda: MB0500EBNCR: 41 C
/dev/sdb: MARSHAL SHELTER HDD: S.M.A.R.T. not available
/dev/sdc: ST6000DM003-2CY186: 38 C
/dev/sdd: ST6000DM003-2CY186: 39 C
/dev/sde: ST6000DM003-2CY186: 39 C
/dev/sdf: ST6000DM003-2CY186: 40 C
/dev/sdg: ST6000DM003-2CY186: 39 C

Amazon Cloud Driveがあっさりなくなって増え続けるデータの行き場が失われてしまい困ったもの。

その後、ブログを書くのをサボっているうちにWD Blue 6TBも似たような相場になって、SSD 2TBも随分価格こなれてきて、タイ洪水以降長年動いてなかったストレージ相場がようやく動き始めたなーと実感する感じ。

Comments

Leave a Comment

TrackBack URI :http://www.dcc-jpl.com/diary/2018/06/10/6tb-raid5/trackback/

Name

Email

ウェブサイト

コメント

MyHatenaBookmark

Recently


Categories


Archives


Wish list

宗子さんのほしい物リスト2015/5-