2011-01-01から1年間の記事一覧

2011年まとめ

4月に転職してからというもの、1ヶ月もアメリカで生活したり、在宅勤務でひたすら引きこもって仕事したりと、普通の人とは随分かけ離れた生活をするようになりました。 hadoop 及びエコシステムと英語のスキルは異様に伸びましたが、本来要求される水準を考…

hadoopのバージョン表記について

(2012/01/10 追記)Cloudera 社から hadoop 1.0 に関する公式ブログ記事が公開されました。そちらの方がより分かりやすく正確に書いています。まずはそちらをご覧ください。 先日 hadoop-1.0 がリリースされたことが巷で話題になっています。 話題になること…

英語によるhadoop系メーリングリストへのバグレポート提出ガイド

hadoop アドベントカレンダー 2011、1日目及びその他空いているところ全部を担当する @shiumachi です。27日は誰もいないようなのでこれを27日とします。id:showyou さんの担当でした。28日目とします。showyou さんすいません 基本 テンプレ的に書くとこん…

eclipse のエンコーディングを SJIS にしてると hadoop のコンパイルが通らない

eclipse のエンコーディングを SJIS にしていると、/hadoop-common/src/test/java/org/apache/hadoop/fs/TestGlobPattern.java:67 の以下の行が文字化けしてコンパイルが通らなくなります。 assertMatch(false, "{[12]*,[45]*,[78]*}", "3", "6", "9ß"); 最…

emacs の rest-mode のバインディング

id:ymotongpooのreST記事は素晴らしいのですが、現在の rst.el のバインディングは記事を書いたときよりも大分変わっているようなのでまとめておきます。ヘルプのバインディング一覧から引っ張ってきただけでろくにチェックしてません(一応一通り動作確認は…

hadoop アドベントカレンダー 2011 12日目 MapReduce ワークロードのパターン

hadoop アドベントカレンダー 2011、1日目及びその他空いているところ全部を担当する @shiumachi です。 今日は MapReduce のワークロードのパターンについて紹介します。 Hadoop で分散処理できる、とは言いますけど、なんだかんだで性能がいまいち出なくて…

hadoop アドベントカレンダー 2011 9日目 まずはここで検索しよう

hadoop アドベントカレンダー 2011、1日目及びその他空いているところ全部を担当する @shiumachi です。 今日は ML などで質問する前に検索すべきサイトを紹介します。 search-hadoop.com http://search-hadoop.com/ML, javadoc, ソースコードの横断検索がで…

hadoop アドベントカレンダー 2011 8日目 fair scheduler のイベントログ

hadoop アドベントカレンダー 2011、1日目及びその他空いているところ全部を担当する @shiumachi です。 今日は fair scheduler のイベントログを有効にする方法を紹介します。注: CDH3u2 ベースですfair scheduler にはイベントログを出力する機能がありま…

hadoop アドベントカレンダー 2011 1日目 CDH hadoop/hive/hbase を eclipse プロジェクトとしてインポートする

hadoop アドベントカレンダー 2011、1日目及びその他空いているところ全部を担当する @shiumachi です。最初はサポートの話を書こうと思ったのですが、せっかくのアドベントカレンダーの初日なので少しだけ技術的なことを書くことにします。 あと最初に断っ…

ロードマップよりポートフォリオ

最近、こんなことを聞かれました。 「shiumachi 君、人生のロードマップとかそういうの持ってないの?」 「ありません」 と即答すると、「夢がないねぇ」と不思議そうな顔をされましたが、ないものはしょうがありません。小学生だか中学生の頃に、「人生の計…

FairScheduler についての雑記

(この記事ははてブロテスト用に適当に書いたものです。はてな記法のテストも兼ねているため無駄な記述があちこちにあります。ご了承ください) 対象バージョン CDH3u2 ソースコードの位置 hadoop/src/contrib/fairscheduler/src/java/org/apache/hadoop/mapre…

テスト投稿2(はてな記法モード)

見出し abc def aaa bbb dddd ffff 見出し 表 タイトル 100 200

はてなブログ始めました

まずは試しに色々書いてみることにします。 とりあえずわかったこと この「見たまま編集」でははてな記法が動かない →管理→設定で、はてな記法モードを選べばいい模様。以下に試してみる - abc - def あ、一度「見たまま編集」で記事作ると設定変更しても適…

アメリカのIT企業で働くために行った英語の勉強法など

こちらの記事を読んで、自分も書きたくなったので書いてみました。 といっても私は別に仕事で普通に日本語も使うし、半年ちょっとしか働いてないのでえらそうなことは何も言えませんが。 あくまで自分のメモ用。 入社前のスペック 小さい頃USに4年間住んでた…

第1回Hadoopアンカンファレンス感想

ずっと感想書こうと思ってたのですが、あまりに忙しすぎて書く暇もなく放置してたので、メモ程度でもいいので書き残しておくことにします。 5月にSFで参加した HUG Meetup に感動し、ノリで始めたアンカンファレンスですが、台風吹き荒れる中50名近くの方に…

HBase のメジャーコンパクション実行時間

なんでCompleted major compactionってlogがたくさん出てるのさー defaultはdailyじゃないんかーい #hbase2011-08-30 20:18:15 via Silver Bird @hamburger_kid なんか3時間くらいおきにトリガーは動いちゃうみたいですね。その時点で前回のメジャーコンパク…

アンカンファレンス企画メモ

第一回hadoopアンカンファレンスを実施したのでそのメモ。 イベントの内容ではなく、どうやって企画・運営したかのメモ。 完全に自分用。 概要 アンカンファレンスについて http://ja.wikipedia.org/wiki/BarCamp http://en.wikipedia.org/wiki/Unconference…

Computer History Museum に行ってきた

今の仕事になってから二度目の海外出張の最終日はComputer History Museumに行ってきました。Google+ 発表直後だからか、やたらと警備が厳重だった Google オフィスのど真ん中にあります。「ここはIT系のエンジニアなら絶対喜ぶと思ったんだ」と、私を連れて…

自炊メモ

(書きかけ。そのうち追記する) 裁断 電子レンジ 900W + カッター 漫画は 70秒、文庫は 50秒 かけたらすぐにハードカバーをはがす 数個に分割できるので、くっつかないよう広げて乾かす 絶対に糊のついた状態でスキャンにかけないこと カッターで丁寧に切る …

Maker Faire 2011 に行ってきた

US 生活最後の週末を飾るのにふさわしいイベントでした。 突入 From Maker Faire 2011入り口。すごい人の数。日本の Make Tokyo Meeting の比じゃないです。From Maker Faire 2011自転車による自家発電で演奏するライブ。 切れてて見えないけど "Fossil Fool…

自分でお金を稼いで日本へ寄付した中学生の少女達の話

一応前回の記事を読んでない人のために説明しておくと、ただ今アメリカのパロアルトというところに仕事で来てます。 先日、Caltrain*1 の電車待ちをしていたとき、暇潰しにベンチに捨てられていた新聞を読んでいました。その中にあったのが、今回翻訳した記…

明日からアメリカ行ってきます

帰国は28日の予定。 寺の総本山で修行してきます。 ネット環境は普通に使えますので何か用事ありましたらメールなり何なりお好きな手段で。英語はできないわ、周りの人たちが凄すぎて足引っ張りまくりだわで心が折れそうな毎日ですが、早く一人前になれるよ…

転職しました

twitterを見ている人はご存知でしょうが、3月末に前職を退職し、4月から Cloudera で働くことにしました。 ちゃっかり公式サイトに名前載せたりしています。 http://www.cloudera.com/company/team/ 昨年末に書いた通り、私の興味はデータマイニングと Hadoo…

震災から一週間

この度の地震により亡くなられた方々のご冥福をお祈りいたしますとともに 被災された皆様へ心よりお見舞い申し上げます。 私は東京に住んでいるのですが、幸いにして友人・親族等も含め特に損害を受けずに済みました。 地震の後、東京の人達の反応は様々なも…

Hadoop Conference Japan 2011 参加メモ

私の記事は個人的なメモで、間違った部分も多いため関連リンクを併読することをおすすめします。 特に今回は twitter と並行して読み書きしてたので、結構書き漏れてる箇所多いです。 網羅性とか正確性は期待しないように。 概要 イベント名 Hadoop Conferen…

Python Hack-a-thon 2011.02 参加メモ

概要 イベント名 Python Hack-a-thon 2011.02 URL http://atnd.org/events/9977 日時 2011/02/19 9:00-19:00 場所 オラクル青山センター 13F S3,4,5,6 関連リンク twitterハッシュタグ #aodag togetter http://togetter.com/li/102904

GNU screen メモ

はじめに id:marqs とかに「screen いいよー使うと便利だよー」と薦められながらも「別にそんなに不自由してないし、設定とか調べるの面倒だからいいや」と放置していた GNU screen ですが、年始に読んだnokunoさんの開発環境の記事に screen が載っているの…

CentOS6開発プロジェクトの現状

先週、CentOS 6 はいつ頃出るのかどうか、ふと気になりました。 リリース予定もニュースにならないし、どうしたのだろうと調べていたら、CentOSの開発MLが荒れていることを知りました。 不安を感じた私は調査を続けました。 すると、LWN.net の一つの記事に…