IT

スポンサーリンク
rails

Google OAuth 2 redirect_uri_mismatchになる

rails4でomniauth-google-oauth2を使ってソーシャルログイン機能を実装していたところ、以下のエラーでコールバック処理が実行されない。 この時の設定内容は以下のとおり。他のプロバイダのログインも一緒に試していたので、g...
0
hadoop

impalaでmrubyを動かす

以前impalaのudfについて調べていて、何か書いてみたいなと思っていた。最近、mysqlでmrubyを動かしている例があると知り、ちょうどmrubyも触ってみたいと思っていたので、今回はimpala udfとmrubyをテーマに、imp...
0
hadoop

Using UDF’s jar of Hive with Impala

I tried to use UDF's jar of Hive with Impala, but ClassCastException has been thrown. I created a function reflect(strin...
0
ruby

rufus-scheduler looks good

rufus-scheduler,ジョブのスケジューリングをシンプルに行える。 類似のところでwheneverというgemがあるが,そちらではcronで実行するジョブをわかりやすいrubyシンタックスで記述できcronに反映させるが,rufu...
0
hadoop

Create file /tmp/impala-scratch/…. with errno=2 description=Error(2): No such file or directory

impalaでクエリを実行すると,以下のようなエラーが出ることがある。 クエリはエラーになる。 以下のcommunityサイトで質問されている方がいた。 community.cloudera.com impala2.0からサポートされている...
0
hadoop

Get corrupt file blocks returned error: Operation category READ is not supported in state standby

Cloudera ManagerでNameNode HAしてから,以下のWARNメッセージがStandbyNameNodeのログに定期的に出力される。結構な頻度で書き込まれ,また診断のログの方にも上がってくるので何とか抑制したい。 このJI...
0
hadoop

Hive Auto Convert Join

これか!? CDHのバージョンを4.7から5.3.2に上げたときに,Hiveも0.13.1に上がり,オプションのデフォルト値が変わっていたのを見落としていた。。 joinの最適化に関連するオプションのようで,以下の値がデフォルトでtrueに...
0
hadoop

Run query on HiveServer2 by thrift

RBHiveクライアントを使ってHiveServer2経由でクエリを実行しようとしたところ,上手くいかずハマってしまった。 以下のようなコードを実行しようとしたところ,エラーで実行できない。 HiveServer2でのエラーは以下。 RBH...
0
hadoop

Upgrade Hue from 2.5 to 3.7 on upgrade CDH to 5

Cloudera Manager4から5へアップデートし,CDH4.7からCDH5.3.2へCMでアップデート。CMでアップロードするとアップデートプロセスをほぼすべてCMが面倒を見てくれるので,とても簡単に移行できる。 rdbms Hue...
0
confluence

Confluence XML-RPC

あるwikiデータをConfluenceに突っ込み直すことがあり、ある程度ページ操作だったり自動でできないかなとドキュメントを見ると、REST、XMLRPC、SOAPがサポートされているようだった。  今回はrubyでconfluence-...
0
java

How lombok works

アノテーションさえ十分に使いこなせていないが、、javaのlombokライブラリについて調べる機会があったので自分なりにまとめてみる。 lombokは、AST変換というマジックを使ってコンパイラの変換プロセスの中で生成されたAST(抽象構文...
0
emacs

dockerfile-modeでDockerfileを書く

Dockerfileを書いていて、emacsでdocker用のmodeがあるかなと探していたら、以下にdockerfile-modeという名前でmodeを公開してくれている方がいたので使用してみたところ、シンプルで使いやすかったのでしばらく...
0
fluentd

fluentd multiprocessプラグインを使う

fluentdでマルチコアのサーバーリソースを生かすため、fluentdのmultiprocessプラグインを導入することにした。multiprocessプラグインについては、以下の公式ドキュメントに書かれているとおりに設定すれば、無事複数...
0
capistrano

Capistrano3での外部入力値の引き渡し

rubyの経験は浅いのだけど、アプリケーションのデプロイにcapistrano(>= 3、デプロイ自動化ツール)を使うようにした。ちなみに以前のバージョン2は使ったことはない。。 タスクを管理する時に、タスクの外部から値を渡すにはaskとい...
0
スポンサーリンク