bulkneetsツールを使ったが、Ubuntu Intrepid (2.6.27-11-server)では再現せず。RHEL5(2.6.18-128.el5)では再現した。もうちょい色々な環境で試してみる必要が有りそう。

エラーメッセージからの追跡

stanakaさんの以下の発言より。

* http://twitter.com/stanaka/status/21037070317

以下のメッセージが出るらしい。

[err] event_queue_remove: 0x15ea9d88(fd 30) not on queue 8

event.c event_queue_remove()の先頭部分でのメッセージ。

void
event_queue_remove(struct event_base *base, struct event *ev, int queue)
{
        if (!(ev->ev_flags & queue))
                event_errx(1, "%s: %p(fd %d) not on queue %x", __func__,
                           ev, ev->ev_fd, queue);

queue “8″ は、event.hによるとEVLIST_ACTIVE.

#define EVLIST_ACTIVE   0x08

event_queue_removeをEVLIST_ACTIVEで呼び出している箇所は複数有る。が、ev_flags & EVLIST_ACTIVE をチェックせずに呼び出しているのは2箇所、event_reinit()とevent_process_active()になる。

event_reinit()はmemcachedからは呼び出されている所が無いので、自ずとevent_process_activeの以下の箇所になる。

        for (ev = TAILQ_FIRST(activeq); ev; ev = TAILQ_FIRST(activeq)) {
                if (ev->ev_events & EV_PERSIST)
                        event_queue_remove(base, ev, EVLIST_ACTIVE);
                else
                        event_del(ev);

activeqには入っているが、ev_flagsにEVLIST_ACTIVEが立っていない条件が成立しうるらしい。

activeqにいれているのは、一箇所、event_queue_insert()になる。ただし、入れる前にかならずev_flagsにEVLIST_ACTIVEは立てている。

ということで、他の場所でev_flagsを弄ってしまっているかメモリ破壊を疑いたい。

ひとまず前者を疑うと、ev_flagsを変更しているのは event_queue_insert(), event_queue_remove(), event_queue_set() になる。insert, removeに関しては問題ないので、疑うとすればset()。この関数が既存eventに対してevent_del()せずにいきなり呼ばれたりするのが怪しそう。

が、memcachedにはそんな箇所は無いので有った。メッセージが出る時の、ev->ev_flagsの値が欲しい…座礁ed.

現象からの追跡

event_base_loop()中のevent_haveevents(base)がfalse、つまりbase->event_countが0になっているらしい。

これは通常は有り得ない、というのもlisten用(新規コネクション受付用)のeventが常に有るはずなので。event_countが減算されるのは、event_queue_remove()。通常は、event_del()から呼ばれる。

となるとlisten用のeventまで消えてしまうのは、event_del()するかメモリ破壊ぐらいしか無い。listen用のeventをevent_del()しているのは、コネクションが溢れたときに呼ばれる以下の関数。

void do_accept_new_conns(const bool do_accept) {
    conn *next;

    for (next = listen_conn; next; next = next->next) {
        if (do_accept) {
            update_event(next, EV_READ | EV_PERSIST);
            if (listen(next->sfd, settings.backlog) != 0) {
                perror("listen");
            }
        }
        else {
            update_event(next, 0);
            if (listen(next->sfd, 0) != 0) {
                perror("listen");
            }
        }
    }
    ... snip ...
}

コネクションが溢れたときには、do_acceptがfalseになっている。update_event()では、event_del() => event_add()しているが、このevent_add() が失敗しているんじゃないかと予想(メモリ破壊じゃなければ)。そうすると、event_countが0になるシナリオは作れる。

このupdate_event()の失敗を捕まえられればなあ…やっぱ次はなんとか手元で再現させる事を考えよう。

• Nealさんのつぶやき

ひとまず、libevent-1.3b, libmemcached-1.4.4をビルドする。memcachedは、-cで同時接続数を制限できる。で、この同時接続数というのは、実はファイルディスクリプタの数を制限する事で達成されている。memcached.cの以下の部分。

    /*
     * If needed, increase rlimits to allow as many connections
     * as needed.
     */
    if (getrlimit(RLIMIT_NOFILE, &rlim) != 0) {
        fprintf(stderr, "failed to getrlimit number of files\n");
        exit(EX_OSERR);
    } else {
        int maxfiles = settings.maxconns;
        if (rlim.rlim_cur < maxfiles)
            rlim.rlim_cur = maxfiles;
        if (rlim.rlim_max < rlim.rlim_cur)
            rlim.rlim_max = rlim.rlim_cur;
        if (setrlimit(RLIMIT_NOFILE, &amp;rlim) != 0) {
            fprintf(stderr, "failed to set rlimit for open files. Try running as root or requesting smaller maxconns value.\n");
            exit(EX_OSERR);
        }
    }

mixiでは30kコネクションだが、それをエミュレーションするのは辛い。ということで環境を擬似的に再現するために、以下のように変更してディスクリプタ数を非常に小さい値に設定して、クライアント側でそれ以上の並列数を指定してみる事にした。

        int maxfiles = settings.maxconns;
        rlim.rlim_cur = maxfiles;
        rlim.rlim_max = maxfiles;
        if (setrlimit(RLIMIT_NOFILE, &rlim) != 0) {
            fprintf(stderr, "failed to set rlimit for open files. Try running as root or requesting smaller maxconns value.\n");
            exit(EX_OSERR);
        }

これで、並列数を32などに制限できる。

$ ./memcached -c 32 -t 4 -v -v -v

次に、libmemcached付属のツールmemslapで負荷をかける

$ memslap -s localhost:11211 --threads=1 --concurrency=32 -S 1s

サーバーが固まります。以下のようなメッセージと共に。

event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory
event_add: No such file or directory

conn_new()のここ。

    if (event_add(&c->event, 0) == -1) {
        if (conn_add_to_freelist(c)) {
            conn_free(c);
        }
        perror("event_add");
        return NULL;
    }

まずはボトムアップだ！という事でstrace -f で調査してみた所、以下のような結果。

[pid 10655] write(2, "<31 new auto-negotiating client "..., 43<31 new auto-negotiating client connection
) = 43
[pid 10655] epoll_ctl(13, EPOLL_CTL_MOD, 31, {EPOLLIN|EPOLLOUT, {u32=31608592, u64=31608592}}) = -1 ENOENT (No such file or directory)
[pid 10655] write(2, "event_add: No such file or direc"..., 37event_add: No such file or directory
) = 37
[pid 10655] write(2, "Can\'t listen for events on fd 31"..., 33Can't listen for events on fd 31
) = 33   

EPOLL_CTL_ADDされていないディスクリプタにEPOLL_CTL_MODしようとしているらしい。これはmemcachedか、libeventが不正な状態を持っちゃってこうなってるんだろう。

memcachedはlibeventと変な形で密結合していて、上に登っていくのが厳しい。イベントベースなのも有るし。

という事で今度はトップダウンでソースから。サーバーでディスクリプタが足りなくなるのは、一箇所、accept(2)の所。

            if ((sfd = accept(c->sfd, (struct sockaddr *)&addr, &addrlen)) == -1) {
                if (errno == EAGAIN || errno == EWOULDBLOCK) {
                    /* these are transient, so don't log anything */
                    stop = true;
                } else if (errno == EMFILE) {
                    if (settings.verbose > 0)
                        fprintf(stderr, "Too many open connections\n");
                    accept_new_conns(false);
                    stop = true;
                } else {
                    perror("accept()");
                    stop = true;
                }
                break;
            }

この、accept_new_conns(false)が怪しい。ひとまずこれをコメントアウトした所、クライアント側は固まらなくなった。この先は、listen用のコネクションをepoll contextから外して新しいコネクションを受け付けないようにしている。

この辺りのクリーンアップ処理がおかしいのかも？と調査中….

    conn *next;
    for (next = listen_conn; next; next = next->next) {
        if (do_accept) {
            update_event(next, EV_READ | EV_PERSIST);
            if (listen(next->sfd, settings.backlog) != 0) {
                perror("listen");
            }
        }
        else {
            update_event(next, 0);
            if (listen(next->sfd, 0) != 0) {
                perror("listen");
            }
        }
    }

あとは、ニールさんが”base_event_loopからなぜか抜けてしまいます”とおっしゃっているのだが、これが再現出来ていない。ループを抜けるとサーバーが終了してしまうはずなのだが、手元ではサーバーが固まるのみ。

ふーむー。

最近は古橋さんが中心となってやっている、MessagePackというプロジェクトに少しコミットしています。同じような目的のプロジェクトとして、Google ProtocolBuffer・Apache Thrift・Apache Avroなどが有ります。簡単に言うと、JSONより速くてコンパクトなシリアライズ/デシリアライズライブラリです。

• MessagePackのサイト

MessagePackは非常に安定して十分にプロダクトでも使えるレベルなので、是非使ってみて下さい。C/C++ライブラリを用いて、毎月数億回ぐらいは(de)serializeを行なっていますが、非常に安定して稼働しています。

僕は特に、MessagePackを使用したRPC(Remote Procedure Call)の仕組みの部分にコミットしようと思っています。MessagePack-RPCの説明は以下に有ります。Thrift等のプロダクトと比べると、非常に高速なのに加えて、非同期呼び出しをサポートしているのが利点です。

• Introduction to MessagePack-RPC
• 並列メッセージングフレームワーク「MessagePack-RPC for C++」リリース
• MessagePack-RPCのプロトコル仕様（ドラフト）と実装例

MessagePack-RPCは従来C++/Ruby版のみが提供されていました。ただ、広めるに当たっては様々な言語でのサポートが必須です。

そこでゴールデンウィークを利用し、Java版/Python版のRPCライブラリを実装しました。Ruby版のコードを参考にしています。どちらも更なる検証・負荷実験が必要ですが、圧縮機能を除く一通りの機能は有ります。

各言語のバージョンは、その言語の一番良さそうなイベントライブラリを用いるというポリシーで開発しています。Java版はJBoss netty, Python版はTwistedを用いました。Ruby版はRev, C++版はmpioが用いられています。

開発したものは、githubにあります。

• msgpack-rpc github

実験的に、Java版をApache Cassandraに組み込み、get関数をRubyから叩いたりしてみました。ただ、MessagePack-RPCでは現在IDLからのコードジェネレーターが無いので、カスタムなデータ型をやりとりするのが非常に面倒くさいという問題が認識できました。

コードジェネレーターは、実は今、古橋さんが開発中です。Thrift互換のIDLを採用するため、Thriftを使用しているプロダクトは簡単にMessagePack-RPCに乗り換えられるようになっています。

Thriftは非常に良いライブラリなのですが、仕事で使ったときに色々と痛い目を見て、ベストなものでは無いと個人的には思っているので、MessagePack-RPCでそこら辺の問題を解決したいと思っています。

MessagePack-RPCはまだまだ成熟したプロダクトではないですが、徐々に完成度を上げていきたいと思っていますので、もし多言語間で通信するタスクが発生した場合には、使ってみてください:-) 将来的にはInfiniband/SDP(Socket Direct Protocol)などにも対応したい所です。

何か有れば、@kzk_moverまでお願いします。

修論提出done！ 2年前は真剣に学校ヤメようと思ってたのに、なんとか出したようです。後は修論発表が残っています。色々重なって、この１週間〜２週間は人生で一番忙しく、気持ちの浮き沈みが激しかった気がします。

2/18には京都でWPSE (International Workshop on Peta-Scale Computing Programming Environment, Languages and Tools) 2010というe-Science関係のワークショップが有って、少し話させて頂く予定です。

しかし、Alok Choudharyの前にI/Oの話をするのは、順番的にどうなの。

今年は飛行機に乗りまくった年でした。去年まで１年に１回程度だったのに。リストアップすると、石垣島(1week)、上海(1week)、シカゴ(2 months)、ハワイ(1week)、ニューヨーク(4 days), ボルドー(2weeks)。

特にシカゴの二ヶ月が大きかったです。米国で住んでみると、いろいろ体験できるものでした。英語での日常会話には困らなくなりました。ビジネスの交渉とか、多人数のディスカッションとなると少し厳しいので、来年度の課題です。

根本的にはボキャブラリが足りないのと、ネイティブのスピードに付いていけないのが問題です。2人だったら聞き返せばいいのですが、3人以上だと、気を抜くと置いていかれる。ニュースを聞き取れるぐらいになると良いのかなあ。あとは研究所の雰囲気を味わえたのが良かったです。

コーディングの方はというと、今年のコミット数は660ぐらい。去年が1100だった事を考えると、4割減とはかなりお寒い数字ですね…。まあその他の仕事が増えてきたと言うのも有りますけど、もうちょいなんとかならなかったのかと。集中できる時間が少なかった気がするので、来年はなんとか盛り返したいと思います。

研究の方は、1st Authorでの論文は出せなかった。来年前半に出します。CCGRID2009で発表しました。論文はかなり読んでますが、アウトプットが無いのが問題。今は修士論文を書いていて、来年卒業予定です。

会社の方は、順調に売上が伸びてます。色々なところで、割と競争力が出てきた感じ。来年度はもっと洗練させて、儲けて、ガンガン良い人を雇って行くと共に、海外で売るのが目標です。あとはサマーインターンを取ったのも、非常に大きな出来事でした。これは、楽しかった。

プレゼンはITProカンファレンス、天下一カウボーイ大会、楽天テクノロジーカンファレンス、Cookpad TechLife、Shibuya.pm等で行わせて頂きました。あとはKey-Value Store勉強会、Hadoop Conference Japan 2009の運営側をやりました。お手伝い頂いた方々に感謝。来年も技術的に面白そうな集まりは是非やりたいです。

あとは松葉さんからお古のレンズ(ZUIKO DIGITAL 14-54mm F2.8-3.5)を安く譲ってもらってから、結構楽しくなってきました。デフォルトレンズだと全体的に暗かったんですよね。FacebookとかPicasaにアップして色々コメントを貰えるのが楽しいですね:-)

では、来年もよろしくお願いいたします！

検査などは特にされなかったのですが、症状的に見て、ほとんど間違いないとのことです。検査の精度が約６０％程度であることと、あと同じような症状の人が前に並んでいたので、安全側に倒す＋手間を省いてるのだと思います。

病院に行ってみて分かったのですが、予想以上に流行ってるという印象です・・・。皆様もお気をつけてくださいませ・・・。

# 各方面の方々には、色々迷惑をかけてまして、本当にすいません。。。

Hadoopのインストールは、最近はCloudera Distribution for Hadoopを使用するのが一般的なようなので、こちらでのインストール方法を紹介します。

まずはEC2で２インスタンス立ち上げます。一つがNameNode/JobTracker用、もう一つがDataNode/TaskTracker用です。仮に、ホスト名をmaster, slaveとしておきます。OSはCentOSが推奨されています。

次にCloudera Configuratorにアクセスし、使用するクラスタの構成などを入力します。それらの情報(例：ノードのコア数・メモリ容量・台数など)からConfiguratorは最適なパラメーターを導出し、設定ファイルをrpmの形で自動生成してくれます。デフォルトパラメーターの悪い部分なども全て直してくれますので、性能が出ない可能性が、格段に下がると思います。

Configuratorに一通り情報を入力すると、最後の画面でcloudera-repo.*.noarch.rpmというファイルが生成されますので、ダウンロードし、全ノードにインストールを行います。このrpmをインストールすると、/etc/yum.repos.d/cloudera.repoというファイルが出来ます。

$ rpm -Uvh cloudera-repo-0.1.0-1.noarch.rpm
$ ls -al /etc/yum.repos.d/cloudera.repo
-rw-r--r-- 1 root root 256 Nov  2 09:25 /etc/yum.repos.d/cloudera.repo

cloudera.repoには、先ほどの設定を含んだHadoopのパッケージが設置されているリポジトリの場所が記述されています。具体的にどのようなパッケージがあるかは、以下のようにして探すことができます。kzkhadoopというクラスタを指定したために、このような名前になっています。

$ yum search hadoop-conf-kzkhadoop
Loading "fastestmirror" plugin
Loading mirror speeds from cached hostfile
 * cloudera: cloudera-yum.s3.amazonaws.com
 * cloudera-conf: cloudera-yum-conf.s3.amazonaws.com
 * extras: centos.cs.wisc.edu
 * updates: mirrors.cmich.edu
 * base: repo.genomics.upenn.edu
 * addons: mirror.steadfast.net
hadoop-conf-kzkhadoop-client.noarch : Hadoop Active Configuration generated by Cloudera Configurator
hadoop-conf-kzkhadoop-master.noarch : Hadoop Active Configuration generated by Cloudera Configurator
hadoop-conf-kzkhadoop-slave.noarch : Hadoop Active Configuration generated by Cloudera Configurator

まず、masterにhadoop-conf-kzkhadoop-masterをインストールします。

master% yum install hadoop-conf-kzkhadoop-master.noarch

次に、slaveノードで hadoop-conf-kzkhadoop-slave.noarch をインストールします。

slave% yum install hadoop-conf-kzkhadoop-slave.noarch

HDFSをフォーマットします。masterノードで以下のコマンドを打ちます。

master% /sbin/runuser -s /bin/bash - hadoop -c 'hadoop namenode -format'
09/11/02 09:37:53 INFO dfs.NameNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG:   host = ip-10-251-43-226/10.251.43.226
STARTUP_MSG:   args = [-format]
STARTUP_MSG:   version = 0.18.3-14.cloudera.CH0_3
STARTUP_MSG:   build =  -r HEAD; compiled by 'root' on Mon Jul  6 15:02:31 EDT 2009
************************************************************/
Re-format filesystem in /hadoop/hdfs/namenode ? (Y or N) Y
09/11/02 09:37:57 INFO fs.FSNamesystem: fsOwner=hadoop,hadoop
09/11/02 09:37:57 INFO fs.FSNamesystem: supergroup=supergroup
09/11/02 09:37:57 INFO fs.FSNamesystem: isPermissionEnabled=true
09/11/02 09:37:57 INFO dfs.Storage: Image file of size 80 saved in 0 seconds.
09/11/02 09:37:57 INFO dfs.Storage: Storage directory /hadoop/hdfs/namenode has been successfully formatted.
09/11/02 09:37:57 INFO dfs.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at ip-10-251-43-226/10.251.43.226
************************************************************/

次に、各種サービスを起動します。masterで、namanode, secondarynamenode, jobtrackerを起動します。jpsコマンドで実際にプロセスが立ち上がっているかどうかを確認してください。

master% /sbin/service hadoop-namenode start
master% /sbin/service hadoop-secondarynamenode start
master% /sbin/service hadoop-jobtracker start
master% /usr/java/default/bin/jps
2082 SecondaryNameNode
1803 NameNode
1884 JobTracker
2104 Jps

同じように、slaveでdatanode, tasktrackerを起動します。

slave% /sbin/service hadoop-datanode start
slave% /sbin/service hadoop-tasktracker start
slave% /usr/java/default/bin/jps
1404 Jps
1306 DataNode
1372 TaskTracker

以上で設定・起動は終了です。次に実際の動作確認に移ります。一番簡単な、grepジョブを動かしてみます。まずは、ルートパスとホームディレクトリにパーミッションをあけます。

master% /sbin/runuser -s /bin/bash - hadoop -c '/usr/bin/hadoop fs -chmod 777 /'
master% /sbin/runuser -s /bin/bash - hadoop -c '/usr/bin/hadoop fs -mkdir /home/'
master% /sbin/runuser -s /bin/bash - hadoop -c '/usr/bin/hadoop fs -chmod 777 /home/'

最後に、適当なユーザー(ここではhadoopuserというユーザーを作成しました)で以下のコマンドを実行します。ここでは、/etc/hadoop/conf以下のファイルをHDFSにアップし、それらのファイルからdfs[a-z.]+というパターンにマッチする単語を抽出し、出現頻度をカウントしています。

[hadoopuser@master]$ /usr/bin/hadoop fs -copyFromLocal /etc/hadoop/conf/ /home/hadoopuser/input/
[hadoopuser@master]$ /usr/bin/hadoop fs -lsr /home/hadoopuser/input/
-rw-r--r--   3 hadoopuser supergroup        196 2009-11-02 10:41 /home/hadoopuser/input/commons-logging.properties
-rw-r--r--   3 hadoopuser supergroup        535 2009-11-02 10:41 /home/hadoopuser/input/configuration.xsl
-rw-r--r--   3 hadoopuser supergroup         50 2009-11-02 10:41 /home/hadoopuser/input/fairscheduler.xml
-rw-r--r--   3 hadoopuser supergroup      39208 2009-11-02 10:41 /home/hadoopuser/input/hadoop-default.xml
-rw-r--r--   3 hadoopuser supergroup       2237 2009-11-02 10:41 /home/hadoopuser/input/hadoop-env.sh
-rw-r--r--   3 hadoopuser supergroup       1245 2009-11-02 10:41 /home/hadoopuser/input/hadoop-metrics.properties
-rw-r--r--   3 hadoopuser supergroup       4160 2009-11-02 10:41 /home/hadoopuser/input/hadoop-site.xml
-rw-r--r--   3 hadoopuser supergroup       2815 2009-11-02 10:41 /home/hadoopuser/input/log4j.properties
-rw-r--r--   3 hadoopuser supergroup         10 2009-11-02 10:41 /home/hadoopuser/input/masters
-rw-r--r--   3 hadoopuser supergroup         10 2009-11-02 10:41 /home/hadoopuser/input/slaves
-rw-r--r--   3 hadoopuser supergroup        401 2009-11-02 10:41 /home/hadoopuser/input/sslinfo.xml.example
[hadoopuser@master]$ /usr/bin/hadoop jar /usr/lib/hadoop/hadoop-*-examples.jar grep /home/hadoopuser/input /home/hadoopuser/output 'dfs[a-z.]+'
[hadoopuser@master]$ /usr/bin/hadoop fs -ls /home/hadoopuser/output/
Found 2 items
drwxrwxrwx   - hadoopuser supergroup          0 2009-11-02 10:44 /home/hadoopuser/output/_logs
-rw-r--r--   3 hadoopuser supergroup       1135 2009-11-02 10:45 /home/hadoopuser/output/part-00000
[hadoopuser@master]$ /usr/bin/hadoop fs -cat /home/hadoopuser/output/part-00000 | head -n 5
3	dfs.
3	dfs.class
2	dfs.name.dir
2	dfs.block.size
2	dfs.namenode.handler.count

以上で終了です。次回は、Hiveを同じようにインストールしてみたいと思います。

1日目はSystem Administrator用のトレーニングコースを受け、2日目がカンファレンス本番でした。トレーニングコースはDeveloper向け(3日間)とManager向けのビジネス寄りのコースが有り、合計で100人ぐらいは参加していたと思います。カンファレンスの本番自体は400～500人の参加でした。

まずSystem Adminコースですが、大体以下のような内容でした。

• MapReduceの基本概念
• ハードウェア/ネットワーク機器の選定ポイント
• OSやJavaなど、ソフトウェアでの注意点
• Hadoop(Cloudera Distribution)のインストール方法
• パラメーター/パフォーマンスチューニング(非常に細かい)
• Rack Topologyの定義方法
• HA構成/バックアップ/リカバリー方法
• Fair Shair Schedulerの動作と使用方法
• Gangliaを使用したシステムモニタリング
• Hadoopのログファイルについて

大体6時間ぐらいのコースで、これを聞くとプロダクションレベルでHadoopクラスタを管理できるように一応なるかなという感じでした。結構細かいパラメーターの話が有ったり、個人的に気になっていたFairShair Schedulerの話が聞けたり、かなり勉強になりました。

お金を取っていたので、全部書いていいものか分からないので、内容を聞きたい方は一緒に飲みに行った時にでもこっそり聞いて下さい(?) 参加者とも少し話してみたのですが、広告配信の会社、インドのSIer、西海岸の小さいスタートアップ等、かなり色々な分野の人が集まっているという印象でした。

次はカンファレンス本番の方です。以下は現在公開されているスライドです。見つけ次第、適当に追加していきます。

• Real Time BI with Hadoop
• Prototypoing Data Intensive Apps: TrendingTopics.org
• hBase, Hadoop World NYC
• NexR Terapot: Massive Email Archiving

また参加者全員に、Hadoop: The Definitive Guideが配布されました。

セッションが途中から3パラになっていて、全部聞く事は無理なので、僕が聞いた中で気になったものだけピックアップして書いてみます。

Making Hadoop Easy on Amazon Web Services

Amazon EC2上でのElastic MapReduceの話です。Apache HiveがElastic MapReduce上でサポートされた事が発表されました。またユーザー事例としてeHarmonyという出会い系サイトでの事例が紹介されていました。アメリカでは4%ぐらいのカップルがこのサイト経由で結婚するらしいです。

またKarmasphere Studio for Haodopという、MapReduceアプリケーション開発用のIDEが公開されていました。Elastic MapReduceと連携し、IDE上からMapReduceタスクのテスト/実行/デバッグを行えるようです。

Hadoop Applications at Yahoo!

Yahooでの使用事例の話です。Yahooでは現在約25000台程度のノード上でHadoopが走っているようです。そのうちの約20%が本番用、約60%がResearch目的という事でした。

ただ、Yahoo.comのトップページに表示されているコンテンツの裏では結構使われているようで、Ad Optimization, Search Index, RSS Feeds, Machine Learned Spam Filters, Content Optimization (Personalization?)などなどに使われているようです。

またYahoo Search Assistでは3年間のログを20ステップのMapReduceで処理をすることで、検索時の関連ワード用インデックスを作成しているようです。元々はC++で書かれていて実行に26日かかっていたものが、Pythonで書けるようになった上に実行時間が20分まで縮んだようです。

Rethinking the Data Warehouse with Hadoop and Hive

Facebookでの使用事例です。FacebookではログをHadoopクラスタに取り込んで、解析が行われているようです。

またHiveという、SQLライクなクエリ言語でMapReduceジョブを走らせる仕組みを開発しており、約95%のジョブがHiveQL(QueryLanguage)経由で実行されているようです。アプリケーションとしては、日々のPVなどのReporting・Adhoc-Analysis・Machine Learningに使われているらしいです

What’s new from Cloudera

Web上からMapReduceクラスタについての様々な操作を行ったり、情報を見るためのツール、Cloudera Desktopの紹介でした。

Large Scale Transaction Analysi

VISAでの使用事例です。32ノード程度とまだ評価段階な印象を受けました。20分ぐらいVISAの話でHadoopの話が全然出てこなかったのでちょっと期待外れ…。

Cross Data Center Logs Processing

RackSpaceというホスティング会社での使用事例です。RackSpaceではカスタマーサポート用に、ユーザーが送ったEメールの状態を追跡したり、ログなどをインデックス化して検索できるようにしているらしいです。具体的にはHadoopでLuceneのインデックスを作成し、Solr経由で検索を行っているとの事でした。

Hadoop Development at Facebook: Hive and HDFS

Facebookで行われているHive, HDFSの機能改善の紹介でした。個人的にはHDFS-220のArchival機能の話などが面白かったです。

Cool Development Projects at Yahoo!: Automatic Tuning and Social Graph Analysis

Yahoo Incの方からルールベースでのHadoop Clusterの異常検知手法と、Social Graph解析の話が有りました。後半は学会みたいな乗りでした。

Practical HBase: Getting the most from your HBase install

Stumbleupon, StreamyでのhBaseの内部構成/使用事例の話が有りました。su.prというURL短縮サービスで用いられているようです。約90億エントリ/1300GBで運用されているようです。

またhBaseの最新版ではZooKeeperとのインテグレーションが行われマルチマスター構成でも動作するようになったとの事で、こちらも試してみようかと思います。そういえばHyperTableについては今回は発表は無かったですね。

Hadoop + Vertica

VerticaというColumn-Oriented DBを作っている会社が、Vertica上でのMapReduceをHadoopを使用してサポートしたという話でした。StonebrakerがFounderで有名です。

Input/Output周りをVertica用に作ったと言う話だけだったので、実際どれぐらいパフォーマンスが出てるとか、HDFSと比べてどうとかいう話が無かったので、ちょっと残念でした。

Production Deep Dive with High Availability

ContextWebという広告配信の会社での使用事例の話でした。この会社ではコンテンツマッチをHadoopで行っており、そこがビジネスの根幹であるため、高可用性が求められます。

詳しい内容は、Hadoop HA Configurationを見て頂けると分かります。18か月で約6回のフェイルオーバーが起こり、そのうち約3回は予定していたものという事でした。

とりあえずこんな所です。後半力尽きた感が有るので、夜にでもまた書き足します(^_^:

Hadoop World 2009に参加するために、NewYorkに来ています。参加者は全体で500人ぐらい。日本からは6～7人ぐらい参加していました。

Cloudera (Hadoopの商用サポートを行っている企業) のMike Olson CEO。BerkeleyDBを作っていたSleepyCatの元CEO。

同じくClouderaのChristophe Bisciglia。

名刺交換してると、色々なIndustryの人がいて面白かったです。かなり盛り上がりを感じました。Clouderaの方に聞いた所、小さいウェブスタートアップから、大きいキャリアまで、色々適用範囲が広がっているようです。まだまだ20人ぐらいの会社なのに、プレセンスが大きくて凄いなーと思いました。

個人的には、System Administrator用のトレーニングコースも受けて、色々と運用上のノウハウなども聞けました。意外と細かいパラメーターがパフォーマンスに効いてきて、しかもデフォルト値が悪いやつが多い…。

帰国したら、内容をまとめまたいと思います。

太田家

縁側

彼岸花

とんぼ

牛

すすき(曽爾高原)

全写真リスト