White scenery @showyou, hatena

If you have any comments, you may also send twitter @shsub or @showyou.

「エンジニアの知的生産術」を買った

昨日電子版を買って、3章まで読んだ。

1章では情報収集・モデル化・検証の学びのサイクルについて書かれていて、2章ではやる気が出ない状態をどうやって解決するかについて書かれている。また3章では脳の記憶について書かれていて、さらに繰り返すことが必要、繰り返すのもテストを行ったほうがよいと書かれている。

 

ちょっと最近の自分は乱雑に情報を眺めることとが多く、具体的な成果も上げられていない(ちょこっとatcoderをやってたりはするが)ので、この本を読んでなんか足しにできるようにする。現状検証やアウトプットが足りていないと思う(ので、こうやってブログに書くことでアウトプットしている)

 

本の内容としては別に"エンジニアの"とつけなくてもいい感じはあるが、いきなりPythonの話が出てきたりするのでエンジニア向きではあると思う。あと3章でいきなり脳の構造に行くのは話が飛びすぎ、とも思った。ただ自分が現状抱えているもやもや感を解消する助けにはなりそうだと思っている。

 

以下読んだときのメモ。

Ubuntu Server 18.04に上げたらvagrant upでエラーが出た

(この記事は以前Qiitaに掲載していたものの転載になります。)

Ubuntu Serverを16.04から18.04に上げたらvagrant upでエラーが出たのでメモ。

バージョン

~/hogehoge$ vagrant up No usable default provider could be found for your system. (以下略)

対策

hashicorpにあるvagrant 2.1.2を入れたら動いた。

~$ wget https://releases.hashicorp.com/vagrant/2.1.2/vagrant_2.1.2_x86_64.deb ~$ sudo dpkg -i vagrant_2.1.2_x86_64.deb ~$ cd hogehoge ~/hogehoge$ vagrant up

検索しても18.04でエラーに遭遇した人はいなさそうだけど、Ubuntuを新規インストールしたらエラーに遭遇しないのだろうか?

AtCoder Beginner Contest 106(ABC106)に参加しました

CD駄目です。ってCは発想は合ってたのにWAなのは何故?

A: 道を端っこに寄せればOK。(A-1)*(B-1)が答え。

abc106_a.py

B: ちょっと悩んだ。けど愚直に約数を求めてった。

gist43ad696ab18dcb8d304d71c88e7bbfe8

C: 1以外の数字が来たらそれが答えってのはわかったのに通らぬ。。

gista8d5c415c5c6ede65a7b4b9fcc520d38

TensorFlowのseq2seqでTwitter botの返答を増やそうとしたが上手くいかなかった

(この記事は以前Qiitaに掲載してみたものの転載です。内容がだいぶ古いので、手順が変わっている事も多々あるかと思います。)

先人に習って https://twitter.com/ha_ma の返答の種類を増やそうとしたが、上手くいかなかったので途中経過をメモとして残しておきます。

参考

TensorFlowのseq2seqでチャットボットが作りたい https://qiita.com/Pu-of-Parari/items/62d7226814a6aba98354

実行環境

DockerのJupyter-notebook( https://github.com/jupyter/docker-stacks )で実行してます。

TensorFlowは0.12が使われているので、conda install tensorflow==0.12.1とか入れてインストールしました。

GPUはこの環境では動きません。

実行内容

先述のページにある内容をほぼそのままコピペしてjupyter notebook上で動かしました。in_vocab_sizeとout_vocab_sizeを100000に増やしました。

data_utilsが足りないので、https://github.com/sanshirookazaki/chat/blob/master/data_utils.py をダウンロードしてjupyter notebookの実行ディレクトリにアップロードしました。また、./datas/vocab_{in|out}.txtを事前に作っておく必要があります(jupyterのコンソールでtouch ./datas/vocab_in.txtとか) 。

データはha_maのTimelineに流れたTweetのうちReplyのあるもの9万件です。8万件を訓練データ、約1万件をテストデータに分割しました。

実行結果

単独で実行させた結果、

> こんにちわ

yes

> ただいま

おかえり

> 起きねば

いいなー

> ITジャーナリスト

ん?

> 帰宅

おかえりなさーい

の様に上手く言ったのですが、後述の途中成果物で通常のTweetを入力としたところ、

安楽安楽純血純血純血純血純血純血純血純血純血純血純血純血純血純血純血純血純血純血安楽安楽安楽安楽安楽

とか

尽く禿禿禿禿爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡爆睡

とか残念な結果になりました。

途中成果物

別途MySQLが必要だったりしてそのままでは動かないと思います。 https://github.com/showyou/hama_seq2seq

Google Colaboratoryでの実行

jupyter notebook上でも動くような代物なのでGoogle Colaboratoryでも動きます。

!pip install tensorflow==0.12.1

と入力して実行すればtensorflowの0.12が動きます。

ファイルのアップロード/ダウンロードは以下のページが参考になります。

【Tips】Google Colaboratory でPythonのファイル入出力演習 https://qiita.com/GandT/items/bd80fad2b8258ed87956

一つハマった点としては、upload関数は時間制限があるので、一定時間後にファイルを選択した場合アップロードされず、再度upload関数を実行しなければなりません。またColaboratory環境は一定時間が経つとノートブック以外全部消されるので途中で結果ファイルをダウンロードしなければなりません。

余談

GPUを使いたい場合、nvidia-dockerからjupyter notebookの環境を作るしかありません。

Nvidia-dockerでGPUコンテナの作成 https://qiita.com/uni-3/items/f5911aaaa538b33f370f

幸い、そのへんをまとめたDockerfileを@lambda_sakuraが作ってるので使うのも手でしょう。

最近使っているDeepLearning用の開発環境 – さくらんぼの技術備忘録 https://light-of-moe.ddo.jp/~sakura/diary/?p=510

2018/08/10現在Ubuntu18.04のCuda9.2のDockerだとTensorFlowが動かないので、Ubuntu16.04をホストに使うのが良いでしょう。

今回使ってるseq2seqは https://github.com/tensorflow/tensorflow/blob/r0.12/tensorflow/models/rnn/translate/seq2seq_model.py にあるのですが、そこで呼ばれている

tf.nn.seq2seq.embedding_attention_seq2seq

が見当たらないような気がします。どこにあるのでしょうか。v1.9だと https://github.com/tensorflow/tensorflow/blob/r1.9/tensorflow/contrib/legacy_seq2seq/python/ops/seq2seq.py がそれっぽいのですが・・

今後の課題としては、一定以上まともな返答だけを自動で返せるような仕組みにできればいいなと考えています。

AtCoder Beginner Contest 104(ABC104)に参加しました

相変わらずCDが解けない・・ってか回答見ても分かってないぞ!?

頭柔らかくしていく必要がありそう。。

 

Aは単なる分岐。

giste0e7cd9df005f0b9193daaabb9cd2612

 

Bはちょっと手間取ったけど強引に持ってった。

gist03f9de83a07890c586d8be45c4f087ca

Ubuntu server 16.04LTSから18.04LTSに上げたら名前解決ができなくなった

Ubuntu server 16.04LTS から18.04LTSに上げたら名前解決ができなくなった。

/etc/resolv.confを見たところ、127.0.0.53と書かれており、なんじゃこりゃとなった。

/etc/resolv.confを直接書き換えたら名前解決できるものの、当然再起動すると127.0.0.53に戻ってしまう。

 

最近のUbuntuだとsystemd-resolveというのが使われていて、これが127.0.0.53を見ている様子。

 

nao-yu-ki-pc.blogspot.com

/etc/systemd/resolved.confの中の、

[Resolve]

DNS=

となっているところに

[Resolve]

DNS=[ルータのIP]

 

と書き換えて再起動したところ、繋がるようになった。

([ルータのIP]は8.8.8.8とかgoogleDNS指定するのもアリ。)

chromeでJupyter notebookのpython3が立ち上がんなくなった問題

最新のchromeに上げたからか、Jupyter notebookでpython3のノートを開くと「Kernel starting, please wait」のままから変わらなくなって、pythonのメソッド(import とかprintとか)が実行できなくなった。

  • safariだと問題なく実行できる
  • chromeでもシークレットウィンドウだと問題なく実行できる

のでchromeのアドオンが何かブロックしてるのかなぁ。adblock plusが怪しかったので無効化したけど変化なし。

あとは・・何だ?

 

念のためchromeのバージョン確認しにヘルプ開いたらchromeのバージョンが上がってたよ(67.ほにゃららから68.ほにゃらら)。上げたら上の現象が起きなくなった。