foltia ANIME LOCKERの録画領域を安くなった6TBで冗長化して入れ替えようとしたらタイミング悪くディスククラッシュに遭遇した件
Posted on 2018/06/10 (日) 22:49
Filed Under foltia | | TrackBack |
タイトルだけでほぼ全てを言い切ってしまっているのだけど以下に詳しく。
foltia ANIME LOCKERをデフォルトでインストールするとLVMで冗長化されてないJBODの録画領域を作る。
手元のfoltia ANIME LOCKER機を見てみるとHGSTの2TBがJBODで6万時間(6.85年)の稼働時間を示していたんでそろそろ冗長構成にしたいなーと数年考えていた。(一度2014年08月ごろSeagateの3TBが突然死して全データが喪失した)
とゆータイミングで3月に突然Seagate 6TB相場が12,800円代に急落した。過去の経験からはSeagateは粘らず即死が多い感じだけども冗長化するのでまあいいかなということでひとまず4台購入。
構成は冗長化できて拡張もできる、mdadmとLVM組み合わせるDrobo的アルゴリズムのこれ。
「mdadm と LVM で作る、全手動 BeyondRAID もどき - 守破離」
どんな仕組みかというとざっくりいうとこんな感じ。絵があるとわかりやすい感じではあるのだけども。
・6TB HDDを2TBごとに3つのパーティションを切る。
・1番目のパーティション4台組み合わせたRAID5をmdadmで作る。
・2番目、3番目も同様にRAID5を作る。
・3つのRAID5をPVとしてLVMでまとめてLVを作る。
mdadmのRAID5はパーティション追加して拡張できるので便利。Linux on ZFSのRAID-Z拡張がそのうち実装されたらZFSもいけるかも。
とゆーわけで、別のマシン(hp Microserver)でアレイを組んでrsyncで既存データをコピーして、コピーし終わったところで入れ替えることにした。
そのままrsyncしようとすると17TBのコピーに数ヶ月掛かりそうな勢いだったので暗号化アルゴリズムをarcfourに変更して若干高速化。LAN内で録画データのコピーなんで高速化のために暗号化しないとかが選べればさらに高速化できたんだろうけどそういう選択肢はない模様。
で順調にデータを移動していると思っていた数日後に、コピー元の非冗長JBODの方からドライブの故障を示すエラーが出はじめて絶望。
調べてみるとまだ3万時間しか使ってない、しかしRMA期間は終わってるWD RED 4TBが壊れた。
慌てて方針転換してこのように。
・新規構築して数TBだけデータコピーしたアレイを元の録画機に入れて停止期間を最小に。
・6TBをもう一つ買い足して、WD RED 4TBをデュプリケータで複製。
・複製が終わったらアレイを取り出した方の機械(hp Microserver)に入れてデータ取り出し元に。
長い時間をかけてrsyncが完了してデータが統合されたら、REDをコピーした6TBも初期化してアレイに追加。6TBx5のRAID5になった。
そしてなんだかアレイのパフォーマンスがあまりにも悪いのでこれでチューニング。
「RAID5がiowait出まくりで遅いので、stripe_cache_sizeを増やした話 | Fusic Developers Weblog」
使用メモリはこの式でわかる。4096(ページサイズ)*8192(stripe_cache_size)*5(RAID5本数)
そして現在の構成はこんな感じ。
起動ドライブ WD RE4 500GB (hp Microserverから取り出したEnterprise Storageシリーズのドライブ)
録画領域 Seagate ST6000DM003 6TB x5台 RAID5 (22TiBくらい)
バックアップ USB接続6TB (DB DumpとMP4-SDだけrsyncしてる)
/dev/sda: MB0500EBNCR: 41 C /dev/sdb: MARSHAL SHELTER HDD: S.M.A.R.T. not available /dev/sdc: ST6000DM003-2CY186: 38 C /dev/sdd: ST6000DM003-2CY186: 39 C /dev/sde: ST6000DM003-2CY186: 39 C /dev/sdf: ST6000DM003-2CY186: 40 C /dev/sdg: ST6000DM003-2CY186: 39 C
Amazon Cloud Driveがあっさりなくなって増え続けるデータの行き場が失われてしまい困ったもの。
その後、ブログを書くのをサボっているうちにWD Blue 6TBも似たような相場になって、SSD 2TBも随分価格こなれてきて、タイ洪水以降長年動いてなかったストレージ相場がようやく動き始めたなーと実感する感じ。
Comments
Leave a Comment
TrackBack URI :http://www.dcc-jpl.com/diary/2018/06/10/6tb-raid5/trackback/
Recently
- MacでjpegのzipをQuickLookしよう
- USB2.5GbEアダプタを買ったりErgoDoxのキースイッチをまた交換したりといった最近の日記
- CentOS 8 StreamがESXi5.5上でIllegal instruction (core dumped)で死にまくるのを解決するメモ
- 2020年のヒット曲TOP41が1時間でわかるMIX（原曲Spotifyリンク&各曲コメントつき）
- アニメオブジイヤ2019
- 今日のErgoDoxなどの日記
- 2019年のヒット曲TOP41が1時間でわかるMIX
- 中古のThinkPad X1 Carbon 4th Genを買ってWWAN(LTEモデム)を内蔵した話
- Raspberry PiでGNSSをクロックソースにするStratum1 NTPサーバーを作った話
- 40ギガビットイーサネットへの道 1（MikroTik CRS326-24S+2Q+RM導入編）
- メインプロバイダを「ZOOT NATIVE IPv4固定IP1個」に乗り換えた
- C97冬コミのご案内 4日目 12/31火曜日 南3 ヨ-18a
- 2018年のヒット曲TOP41が1時間でわかるMIX
- 最近のErgoDox日記
- レーザー刻印で薙刀式キーキャップを作った
- Mac miniの重さ
- Mac用薙刀式のセンターシフト+T,Yの実装
- 今日のErgoDoxと薙刀式
- APFS Fusion Driveを内蔵SSD+USB HDDの構成で組んだら、SSD容量より多くのデータを書き込むとシステム破壊していくトラブルに見舞われた話
- DCC-JPL JapanはC96(夏コミ)は抽選漏れのため不参加です。
- 石原夏織さんの使ってるシャンプー(メリットピュアン スウィート＆チャーミング)のメモ
- キーボードのキーキャップ刻印の作り方
- ErgoDoxのキーにキーボード専用レタリングシールを貼って薙刀式キーボードにした
- エルゴノミクス左右分割キーボードErgoDox EZのキー配置編1
- Mac用に薙刀式キー配列移植した。
- アニメオブジイヤ2018
- C95冬コミのご案内 2日目 12/30日曜日 東6 タ-28a
- C94夏コミのご案内 1日目 8/10 西1 も-40b
- foltia ANIME LOCKERの録画領域を安くなった6TBで冗長化して入れ替えようとしたらタイミング悪くディスククラッシュに遭遇した件
- アニメオブジイヤ2017
Categories
Archives
- 2021年 5月
- 2021年 3月
- 2021年 2月
- 2020年 12月
- 2020年 11月
- 2020年 10月
- 2020年 6月
- 2019年 12月
- 2019年 11月
- 2019年 10月
- 2019年 9月
- 2019年 8月
- 2019年 7月
- 2019年 5月
- 2019年 4月
- 2019年 3月
- 2019年 1月
- 2018年 12月
- 2018年 8月
- 2018年 6月
- 2018年 4月
- 2018年 2月
- 2017年 12月
- 2017年 8月
- 2017年 5月
- 2017年 1月
- 2016年 12月
- 2016年 9月
- 2016年 8月
- 2016年 7月
- 2016年 4月
- 2016年 1月
- 2015年 11月
- 2015年 9月
- 2015年 8月
- 2015年 5月
- 2015年 3月
- 2015年 2月
- 2015年 1月
- 2014年 12月
- 2014年 11月
- 2014年 10月
- 2014年 9月
- 2014年 8月
- 2014年 7月
- 2014年 5月
- 2014年 3月
- 2014年 2月
- 2014年 1月
- 2013年 12月
- 2013年 11月
- 2013年 10月
- 2013年 9月
- 2013年 8月
- 2013年 7月
- 2013年 6月
- 2013年 5月
- 2013年 4月
- 2012年 11月
- 2012年 10月
- 2012年 9月
- 2012年 8月
- 2012年 7月
- 2012年 6月
- 2012年 5月
- 2012年 4月
- 2012年 3月
- 2012年 2月
- 2012年 1月
- 2011年 12月
- 2011年 11月
- 2011年 10月
- 2011年 9月
- 2011年 8月
- 2011年 7月
- 2011年 6月
- 2011年 5月
- 2011年 4月
- 2011年 3月
- 2011年 2月
- 2011年 1月
- 2010年 12月
- 2010年 11月
- 2010年 10月
- 2010年 9月
- 2010年 8月
- 2010年 7月
- 2010年 6月
- 2010年 5月
- 2010年 4月
- 2010年 3月
- 2010年 2月
- 2010年 1月
- 2009年 12月
- 2009年 11月
- 2009年 10月
- 2009年 9月
- 2009年 8月
- 2009年 7月
- 2009年 6月
- 2009年 5月
- 2009年 4月
- 2009年 3月
- 2009年 2月
- 2009年 1月
- 2008年 12月
- 2008年 11月
- 2008年 10月
- 2008年 9月
- 2008年 8月
- 2008年 7月
- 2008年 6月
- 2008年 5月
- 2008年 4月
- 2008年 3月
- 2008年 2月
- 2008年 1月
- 2007年 12月
- 2007年 11月
- 2007年 10月
- 2007年 9月
- 2007年 8月
- 2007年 7月
- 2007年 6月
- 2007年 5月
- 2007年 4月
- 2007年 3月
- 2007年 2月
- 2007年 1月
