自宅サーバを仮想化しよう2-ディスク編

Posted on 2013/11/12 (火) 12:52
Filed Under 技術, 日記 | 1 Comment | TrackBack | Share on Tumblr

前回の続き。
ハードウェアを組み上げて、仮想化ハイパーバイザはVMWare ESXi 5.5(無料)を選定してダウンロードした。

まず、ダウンロードしたてのESXiインストーラisoで起動すると、SuperMicro X10SLM+-LN4F オンボードNIC intel 210ATを認識しない。これが第1のつまづき。
VMWare公式ドライバ、「ESXi 5.x driver package includes version 4.2.16.3 of the Intel igb driver」を「VMware Front Experience: ESXi-Customizer」で入れて、isoをビルドし直す。

ESXiインストーラを起動して、起動ディスクはオンボードのintel RST RAID1でミラーリングでもしておけばいいかな、と気楽に考えていたらこれが第2のつまづき。VMWare ESXi 5.5はRSTのRAIDを認識しない。

仕方ないので安いハードウェアミラーリングカードRAID計画壱号機改を買い足した。台湾IOI Technology の「RAID Controller | eSATA & USB 3.0 to Quad SATA II RAID Bridge Board | ESU3-QS201-R5」のOEMっぽい。

RAID計画壱号機改

発売:CMインダストリー
発売日:
定価:オープンプライス
ASIN:B0067G1Y92

このカードが非常に使い方が難解なのでざっくり使い方を書いておくと、モードを切り替える(ディスクは初期化される)ときには
1.ロータリースイッチをPMに合わせて通電しながらCHANGE MODEボタンを数秒押す
2.ロータリースイッチを目的のモードに合わせて通電しながらCHANGE MODEボタンを数秒押す
を1から実行する必要がある。

そして、よく見ると、Faultしたときに、どのドライブを交換すればいいのかわからない。
そこで秋葉原の千石電商で50円のコネクタ付きケーブル4本と15円のLED4つを書い足し。

試しにこんなかんじに接続してテスト。動いたらショートしないように足を切って短くするか、熱収縮チューブあたりで絶縁すると良いかもしれない。

これで起動ディスクが冗長化されたんで、ESXiを入れて、VMを作ってWindows8 Enterprise 64bit評価版を入れて、まずディスクのベンチマークをしてみた。

これはちょっと実用にならないくらい遅い。

念のためRAID計画壱号機改を外してHDDを直結してみてもやっぱり遅い。

しかも、RAID計画壱号機改は起動時に認識しないことが度々あって解決方法が全くわからない。
起動できない時には何度か再起動してればいつかESXiが起動してくるのだけど、なぜか同じディスク内に作ったデータストアが見えなかったりする。そんな時も何度か再起動しているとたまに見えるようになる。なんなのだ。

というわけで、I/Oを高速化するための長い戦いが始まったのである。

次回に続く!

自宅サーバを仮想化しよう1-立志篇

Posted on 2013/11/10 (日) 22:59
Filed Under 技術, 日記 | Leave a Comment | TrackBack | Share on Tumblr

(CV:田口トモロヲ)
自宅サーバ。
生活とともに台数は増え、増える傍から老朽化が進み、誰もが管理に頭を悩ませてきた。古いサーバは性能も出ずに電力効率は悪く場所を取る。
仮想化しての集約が求められた。
高いパフォーマンス、堅牢な信頼性、低廉なコスト、相反する厳しい水準が要求された。
これは仮想化を目指しながら一筋縄では行かなかった苦難の記録である。
-BGM:中島みゆき:「地上の星」(YouTubeで地上の星 / 中島みゆき [公式] を視聴)

とおもったけど文が続かなかったんで、まず設計方針として、こんな感じにした。
・録画機以外のNASを含めた主要サーバ類を集約化する。
・新NASはストレージをhp microserver的なものでiSCSI TargetとしてNAS本体でまとめてストレージプールとする。
・家庭用なのでコストが大事。
・信頼性とパフォーマンスも大事。→メンテで止めてもいいがデータは失われないように。

ということで予算を考慮して主要パーツの選定から始める。

マザーボードはリモートからの管理のためIPMIが欲しかったので選択肢が割と少なく、定番のSuperMicroからHaswell Xeon シングルソケット(UP LGA1150)、4NICのX10SLM+-LN4Fを選択。

SuperMicro MBD-X10SLM+-LN4F-O Xeon E3-1200 v3対応 UPサーバーボード X10 日本正規代理店品 MB2026 MBD-X10SLM+-LN4F-O

発売:Supermicro
発売日:
定価:オープンプライス
ASIN:B00E8BKCTG

CPUはHaswell世代の4C/8T Intel Xeon E3-1230v3 3.3GHzあたり。
(Amazonになかった)→価格.com Xeon E3-1230 v3 BOX

CPUクーラーは空冷に比べて静かかなー?と思ってメンテナンスフリーの水冷キットCoolerMaster Seidon 120M 。

Cooler Master 【HASWELL対応】 CPUクーラー RL-S12M-24PK-J1

発売:CoolerMaster
発売日:
定価:オープンプライス
ASIN:B00AOEWCWG

ケースは静音そうだったCoolerMaster Silencio 550。

CoolerMaster Silencio 550 ATX /MicroATX ミドルタワー静音タイプ型番:RC-550-KKN1-JP

発売:Coolermaster
発売日:2011-07-15
定価:￥ 11,979
ASIN:B004WPBD96

ハードディスクはNAS用で24時間通電でも寿命が長いという触れ込みのWestern Digital WD RED 3TBを2台。

WD Red 3.5inch IntelliPower 3.0TB 64MBキャッシュ SATA3.0 WD30EFRX

発売:WESTERNDIGITAL
発売日:
定価:オープンプライス
ASIN:B008P56QEQ

ディスク交換をラクチンにするためにホットスワップ対応ケースをなんでもいいんだけど今回はSilver Stone FP57を選択した。

Silverstone 5インチベイ用ホットスワップユニット SST-FP57B

発売:Silver Stone
発売日:2011-09-02
定価:￥ 2,480
ASIN:B005J2WQ3I

メモリはECCで32GBでマザボに載るならなんでもいい。

SanMax サーバー/ワークステーション用メモリ Micron DRAM/サーマルセンサ搭載 DDR3-1600(PC3-12800) U-DIMM ECC対応 CL11 32GB(8GB x 4枚)セット 1.5volt JEDEC準拠 SMD-32G28ECP-16K-Q

発売:サンマックス・テクノロジーズ
発売日:
定価:オープンプライス
ASIN:B007QMV0YU

電源も500W位でなんでもいいんだけど今回はENERMAX PLATIMAX500Wを選択した。

ENERMAX【HASWELL対応】PC電源 PLATIMAX500W EPM500AWT

発売:ENERMAX
発売日:2011-12-03
定価:オープンプライス
ASIN:B005ZXUARU

次回へ続く!

foltiaで全自動CMカットを実現しよう

Posted on 2013/10/15 (火) 3:46
Filed Under foltia | 1 Comment | TrackBack | Share on Tumblr

民生機ではわりと一般的になってるCMカットを実装したくて色々調べていたら、2ちゃんねるのCMカットスレで良さそうな情報を見つけた。

536 ：名無しさん＠編集中：2013/10/05(土) 22:23:02.74 ID:iNl1yeOz
comskip81_056を一日弄っていたけど、CMスキップ楽勝だね、アニメじゃなくても。
先人に感謝。
detect_method=255、min_show_segment_length=125、punish=28
.vdr（output_vdr=1）で出力すると加工は楽です。
自分はバッチでchapters.txtにしてから、空橋さんの「gen_.chapters.txt_to_.chapter（チャプタースキップ用）b.bat」を通してTVTplayで見ている。
Avisynth要りません。まあcomskipはtrimコマンド出力できるので入用な人は大丈夫ですね。

http://toro.2ch.net/test/read.cgi/avi/1140501201/536n

ほほうと思って試してみたところとりあえず動いたのでメモ代わりにここに書いておく。

試した環境:CentOS6.4/64bit,ffmpeg1.2.5,comsip81_0.56(comskip.org)、comskip.iniに536さんの設定を書いた。

手順1:TSからCM検出する。

wine /home/foltia/comskip81_056/comskip.exe -t -d 255 -v 2 --zpcut --zpchapter --videoredo --csvout --quality --plist --ini=comskip.ini ./3027-12-20130924-0135.m2t

#必要ない形式のカットファイルも吐いてるんで、そのうち見直す。

手順2:検出された本編部分を切り出す。

ffmpeg -y -i ./3027-12-20130924-0135.m2t -c copy -ss 00:01:02.56 -t 00:00:36.72 -sn ./3027-12-20130924-0135_0001.ts ffmpeg -y -i ./3027-12-20130924-0135.m2t -c copy -ss 00:02:39.46 -t 00:11:02.63 -sn ./3027-12-20130924-0135_0002.ts ffmpeg -y -i ./3027-12-20130924-0135.m2t -c copy -ss 00:15:12.88 -t 00:12:46.87 -sn ./3027-12-20130924-0135_0003.ts

ffmpegが理解できるタイムスタンプの形式がcomskipで吐いてくるのとは若干異なるのでいまんところちょっとした計算が必要になる。

手順3:切り出した本編をくっつける。

ffmpeg -i "concat:3027-12-20130924-0135_0001.ts|3027-12-20130924-0135_0002.ts|3027-12-20130924-0135_0003.ts" -c copy 3027-12-20130924-0135-CUT.ts

concatオプションが使えるようになったのがffmpeg1.1以降らしいのでそれ以降のもので。

上のサンプルで作ったのをDLNA経由でPS3で再生したのがこの画面。30分アニメの尺が24:26に短くなってるのがわかる。

ffmpegはGOP関係なく指定したタイムスタンプでぶった切っているようなんで、そのへんは今後の課題の予定。mencoderはスマートなんとかで切れる説も。

TSをCMカットせずに、MP4にチャプタを入れたい場合は、ググればMP4Boxでチャプタを追加するようなやり方が見つかりそうなんでその辺を参考に。

おまけ
当初、mencoderにedl読ませてカットしようとしたらなぜか途中までしか処理されなかった。avidemuxでカット編集しようとしたらクラッシュして正常動作しなかった。mplexもSegmentation Faltを起こして期待通り動作しなかった、mkvmergeは複数のmkvを連結するような機能はなかった、などいろいろ試して上の結果となった。

CentOS5からCentOS6へLVMを持って行ったら認識しなくなった時の解決方法

Posted on 2013/10/11 (金) 17:27
Filed Under 技術 | Leave a Comment | TrackBack | Share on Tumblr

CentOS5で使っていたマシンのOSをCentOS6に入れ替えようとして、CentOS6で起動したらいままで動作していたLVMが認識されなくなった。
構成は次の6台
2TB(起動ディスク)
3TB
2TB
2TB
2TB
3TB

CentOS6で起動するとこんな状態になっていて、PVが2本見つからないと言い出し3TBドライブがunknown deviceになっていた。

#内容のコピペがなくスクショしかなかったのでこれで。

結論から言うと、CentOS5上では動いていた、3TBディスクの上にGPTパーティションテーブルで1パーテーションをつくり作成したPV(作成例:pvcreate /dev/sdf1)がCentOS6では認識されていなかった。
ので、CentOS5上でpvmoveを駆使して、3TBドライブをドライブ全体をPV作成例:pvcreate /dev/sdf)にする構成に作り直したところ、無事にCentOS6上でも全PVが認識され、VG,LVもそのまま認識された。めでたしめでたし。

参考:「4.2. 物理ボリュームの管理 - Red Hat Customer Portal」

ところで、CentOS6.3/RHEL6.3からLVMが冗長構成を取れるようになっていたのを初めて知った。そのうち検証する予定。
「4.4.15. RAID 論理ボリューム - Red Hat Customer Portal」

ＪコミFANディングの白井三二朗先生と飲み会に行って来たよ

Posted on 2013/09/29 (日) 3:20
Filed Under イベント | Leave a Comment | TrackBack | Share on Tumblr

「ＪコミFANディング - 白井三二朗ＰＤＦセット」で買った時の特典でついてきた「白井三二朗先生と飲み会」に行って来た。

便利リンク:白井三二朗先生の代表作2作品がJコミで無料で読めますよ!
「Jコミ | ジョバレ」
「Jコミ | Dear Monkey 西遊記」

白井先生本人、購入者5人、Jコミの幹事2人の8人だったのだけど、男性率100%!　おかしい、オタク人口は女子のほうが多かったのではないか?と思いつつも和気藹々とスタートした飲み会で語られた公開してもよさそうな裏話を列挙していくよ。

白井三二朗先生のペンネームの由来は黒澤映画の「椿三十郎」かららしい。黒澤映画がお好きなようだ
ジョバレの背景は先生の仕事場のある江古田が多いらしい。
ジョバレの単行本はこの世にはまだ初版本しかないらしいぞ。キミの持ってる初版本は貴重品だ。ヤッタネ!
Dear Monkey 西遊記、射雕英雄伝EAGLETと中国マンガを2作品も描いているのに中国への取材費は出なかったので行けてないそうだ。シリウス編集部渋いね!
中国の作家・金庸の武俠小説『射鵰英雄伝』を原作にした射雕英雄伝EAGLETを描いたきっかけは、シリウスの編集長に「最遊記を描いたんだから中国詳しいんだろ?」と思われたかららしいぞ! 取材費出ないのに!

参考リンク:2004年の宗子時空のジョバレ記事:「DCC-JPL:宗子時空日誌過去駄文:2004/08後半」

DCC-JPL Japan夏コミのご案内(3日目東5 へ48b)

Posted on 2013/08/11 (日) 22:00
Filed Under 同人イベント | Leave a Comment | TrackBack | Share on Tumblr

早いもので、今度こそこれがジェノサイドだったんじゃねーか?というくらいの暑さと戦ってきた夏コミもついに最終日となってしまいました。
ここ連続で落選していたのですが、今回のコミケはスペースをいただけることになりました。
8/12(月)3日目東5 へ48b DCC-JPL Japanです。
いつものようにいつも同じで変わり映えしなく違うのはジャケットくらい?な感じなのですが、今回は思い切って消費税増税反対生活防衛値下断行として頒価200円です。
防衛を頑張りましょう。まおちゃんとか懐かしいですね。いま調べたら11年前でした。カノープスのMTV-1000とかで録画していた頃でしょうきっと。
ていうか、なんで未だにハートキャッチなの?ドキドキ!じゃねーの?と1億人くらいが思っているとおもいますが、ひとえにロゴを作るのが困難だったからです。わかれ。

とりあえず何枚売っても多分赤字なので、持っていく枚数もきっといつもと同じくらいです。

Squareは持って行ってるとは思いますが、200円をカードで!とかいう無茶を言うのはやめましょう。Squareが切れるのはVISAとMasterだけです。便利な時代になりましたね。いつかSuicaにも対応してくれるとさらに便利ですね。

この2日間を乗り切った精鋭ならこれ以上言うことはなにもないとは思います。きっと引き続き体温より暑いと思うんで引き続き頑張りましょう。

foltiaでのしょぼカルスケジュールをEPGデータを利用して検証しよう(1)

Posted on 2013/08/06 (火) 2:32
Filed Under foltia | Leave a Comment | TrackBack | Share on Tumblr

foltiaはしょぼいカレンダーからアニメのスケジュールを取得している。
すごい便利なしょぼカルだけどデータの更新が人力なため、いつ終わるのかわからないスポーツ延長の時などにたまーにスケジュールの更新が追いつかないことがある。
とゆーわけで、EPGデータをもとにしょぼカルスケジュールを確認してみる方法を考えてみた。

1.録画予定のチャンネルで開始時刻と終了時刻がしょぼカルスケジュールとEPGデータとで等しい
2.番組名が等しい
→放送スケジュールは正しい。

しかし、EPG番組表の表記はかなりゆらぎがあるんで、しょぼカルに登録されているタイトルと同一番組でも一致することは少ない。

例えばこんなかんじに。(上:しょぼカル下:EPGタイトル)

超次元ゲイムネプテューヌ THE ANIMATION
超次元ゲイムネプテューヌ #5

すすめ！キッチン戦隊クックルン
すすめ!キッチン戦隊クックルン「うどん怪人にあったか〜いプレゼント」

黒魔女さんが通る!!
大!天才てれびくん ▽難関ダンスで真剣勝負 ▽魔女 ▽ワル

なので、String::Trigramを利用して類似度のスコアを判定することにする。
十分スコアが高ければ番組名が正しいとする。

1.2.どちらかが偽であったら、しばらく先のEPGデータを調べて、しょぼカルスケジュールのタイトルと比較して最も類似度の高い番組名を探って、そこに移動したと判定する。

という方針でテストプログラムを実装してみた。

条件1.2が完全に一致した例。

1:3021:きんいろモザイク:きんいろモザイク:201308060030:19 chk_pid_broadcast_schedule() EPG Frame mutch.きんいろモザイク,きんいろモザイク chk_pid_broadcast_schedule() EPG Frame mutch.1 chk_pid_broadcast_schedule() 1 is hight ,may be not moved

条件1が満たされ、条件2でのスコアが高かった例。

1:2976:すすめ！キッチン戦隊クックルン:すすめ!キッチン戦隊クックルン「うどん怪人にあったか〜いプレゼント」:201308060645:2 chk_pid_broadcast_schedule() EPG Frame mutch.すすめ！キッチン戦隊クックルン,すすめ!キッチン戦隊クックルン「うどん怪人にあったか〜いプレゼント」 chk_pid_broadcast_schedule() EPG Frame mutch.0.36697247706422 chk_pid_broadcast_schedule() 0.36697247706422 is hight ,may be not moved

条件1は満たしたけど、条件2で類似度スコアが低かったんで他に移動してないか調べに行った例。

1:2479:黒魔女さんが通る!!:大!天才てれびくん ▽納涼&爆笑!お化け屋敷でQ ▽魔女:201308071820:2 chk_pid_broadcast_schedule() EPG Frame mutch.黒魔女さんが通る!!,大!天才てれびくん ▽納涼&爆笑!お化け屋敷でQ ▽魔女 chk_pid_broadcast_schedule() EPG Frame mutch.0.0625 chk_pid_broadcast_schedule() Score : 0.0625. 大!天才てれびくん ▽納涼&爆笑!お化け屋敷でQ ▽魔女:201308071820 テクネ映像の教室「スペシャルⅡ」:201308071855 ビクトリアス(43)「おかしな1日」:201308071925 リトル・チャロ4(日本語版)「Ep18 ふたつのソーセージ」:201308071950 まいにちスクスクジュニア“ゲームとのつきあい方”(3)▽暴力的にならない?:201308071955 ハートネットTV リハビリ・介護を生きる「リハビリを楽しく」(2):201308072000 きょうの健康正しく向き合う認知症「周囲と一緒に生活を維持」:201308072030 NHK手話ニュース845:201308072045 きょうの料理旬を味わう「簡単下ごしらえかぼちゃのスピードレシピ」:201308072100 きょうの料理ビギナーズ「使ってみよう!ビーフン大活躍」:201308072125 Max score:0.0625 Return value:201308071820 chk_pid_broadcast_schedule() May be NOT moves.