去年もやった Power Technical Agency のカレンダー今年もやるぞ

CyberAgent PTA Advent Calendar 2022 - AdventarPTAのアドベントカレンダー2022です！adventar.org

oeは今ジムでちょうど流行のChatGPTを触っていたからそれについて書こうと思う

ChatGPTとはなにか文章の入力に対してAIがウェイしてくれる、とてもヘブンなものだと思ってもらえばいいだろう

ChatGPTA conversational AI system that listens, learns, and challengeschat.openai.com

まずoeがよく聞かれる質問をGPってみよう

そうなんだ、ウェイとは特定の単語ではない

周囲の文脈によってどうにでもなるのがウェイだ！ウェイ！

とまあこんな感じで入力に対してAIが答えてくれるんだ。

だが、ChatGPTのプッシュはそれだけではない。

エンディニアにも嬉しい機能満載なんだ

 コード生成

例えばこんなの入れてみよう

「オブジェクトの特定の値でキーをグループ化するコード」

ウェイ！

サンプルまで出してくれて震えるぜ！

標準でJSで出力されるがこうするとGoでも出してくれる

「Golangでオブジェクトの特定の値でキーをグループ化するコード」

ウェイ！

リファクタ

ChatGPTはコード生成するだけじゃなく、リファクタもしてくれるんだ

こんなパワーコードがあったとしよう

const oeIsPower = (oes: string[]): string[] => {  for (let i = 0; i <= oes.length; i++) {    if (oes[i] == 'oe') {      oes[i] = oes[i] + ' is Power!!!';    }  }  return oes;};oeIsPower(['kuwahara','oe','murakami'])→  ['kuwahara', 'oe is Power!!!', 'murakami']

oeが3時間かかって絞り出したコードだ

これをこんな感じで入力してやる

以下をリファクタリング

```

const oeIsPower = (oes: string[]): string[] => {

  for (let i = 0; i <= oes.length; i++) {

    if (oes[i] == 'oe') {

      oes[i] = oes[i] + ' is Power!!!';

    }

  }

return oes;

};

```

するとこうだ！

フンッッッッッ！

oeもトレーニングしてて、もっと効率のいいトレーニングないのだろうかって思うことがあるのだが、ChatGPTに問いかけようと思ったぜ

ちなみに、毎回同じ結果になるわけではない

次同じのを打ったらこうなった

ちょっと書式が違うよな

とはいえ、最初のoeのパワーコードから考えたら、スマートになったな

テスト

テストって書くのめんどいよな！

でもこれもGPってやろう

こんな感じで入力してみる

以下のテストコード

```

const oeIsPower = (oes: string[]): string[] =>

   oes.map((oe) => (oe === 'oe' ? oe + ' is Power!!!' : oe));

```

するとこうだ！

oe is Power！！！

さすがだ。

こんな感じでサクッとコード生成してくれるから、AIにまかせてトレーニングに没頭できるよな！

これ以外にも使い方はoeの肉体並みに無限大だからいろんな活用ができそうだ。

最後にoeをGPってみるか

クワハラ！

最近AIによる絵とか写真の自動生成が話題だな。

MidjourneyとかStable Diffusionとか

そんなわけで、AIにもoeの存在感は伝わってるのか、Stable Diffusionでウェイしてみた

「oekun」でどうだ

おいおい、ふざけてるのかAI

これはoeの先祖だろ！

まだパンプアップしてないAIにはサポートが必要なようだ。

「muscle oekun」と入れてやろう

なんかバシ先出てないか？

まぁマッスル感は正しいからいいとしよう

ついでにギャンブラー村上も生成してやるか

「poker boy murakami」

ウェイ！！

右上なんてまさにオールインしたときの、目がイッてるムラカミだ！

震えたぜStable Diffusion

お盆でoeは実家で高校野球を見ているんだが、

実はoeも学生の頃は球児だったんだ。

途中でヘルニアで腰をフンッしてしまって辞めてしまったが

ピッチャーがバッターをウェイした後にモストマスキュってるのを見て

なんて美しいんだって筋肉が震えたんだよな！

そこからoeのベイスボールへの気持ちが再びパンプアップして、

思わずグローブを買った。

大谷翔平と同じモデルのやつだぜ

ウェイ！やっとアッポできた

久しぶりだな。

最近はひたすら黙々とトレーニングをしていたせいで、こんなにパンプしたぜ！

あまりにoeがパンプしたせいで、隣でトレーニングしていた人に

「寄生獣ですか？」

って言われたんだ

まぁある意味寄生獣かもな！

だがトレーニングしすぎたせいで、腕を痛めてしまった

何事もやりすぎはよくないな

そんなわけで今はギプスして生活している

このギプス、oe特注なんだ！

十字ボタンで場所を選び、強さを選択するとピンポイントでEMSしてくれるという

ギプス付けたままトレーニングできるハイテクウェイだ

ちなみに手の甲の黒光りしてる部分にはAIが入っている

今やAIは欠かせないからな！

そのうちゴルスタにも入るだろう

【国内正規品】Gold Standard 100% ホエイ ダブルリッチチョコレート 907g(2lb) 「ボトルタイプ」

Amazon（アマゾン）

5,590〜5,780円

久々にブロってみたら、おまかせ広告というのが出てきて、amebloも進化してるんだなって思ってパンプアップしたぜ

早速この下に入れてみるぞ

どうだ、おまかせだからブロってる時点ではどんな広告出るかわからないが、多分oeのブログだから、ゴルスタのプロテインに違いないだろう

ページを開いた時点の気分で、おすすめ味のプロテインが表示されていたら最高だな！

前回同様PTAアドベントカレンダーの14日目だ！

CyberAgent PTA Advent Calendar 2021 - Adventaradventar.org

ある日クワハラが

「oekunさん、CPUよりGPUのがパワー！っすよ、パワー！」

って言ってて、

「おいおい、そんなの『ゴルスタのデリシャスストロベリーよりダブルリッチチョコレートっすよ』って言ってるようなものだろ！」

【国内正規品】ON Gold Standard 100% ホエイ ダブルリッチチョコレート 907g(2lb) 「ボトルタイプ」

Amazon（アマゾン）

4,851〜6,999円

って返したのだが、

そういや実際どれくらいパワー！なのかって思ったんだよな。

マッチョ界で筋肉の大きさがパワーなように、エンジニア界でも速度がパワーだ

機械学習において、CPUよりGPUを使用したほうが速度がウェイなのはみんなも知ってると思うが、実際にどれくらいウェイするのかを検証した。

あくまで一例だからプロテイン呑みにするなよ！

検証で用意した教師データは、webサイトのテキストとサイトのカテゴリだ。

今回はこれを用いてBERTで文章分類してみる。BERTは重いからな。

BERTは何かって？そんなことは筋肉で察しろ

GitHub - google-research/bert: TensorFlow code and pre-trained models for BERTTensorFlow code and pre-trained models for BERT. Contribute to google-research/bert development by creating an account on GitHub.github.com

 教師データ 

livedoorニュースコーパスを使おうかと思ったのだが、なんか古そうだったから、oeが自力で2000件強のwebサイトデータを用意した。

2000件のデータなんて、プロテイン1杯にもならないだろうって？

今回は学習の精度ではなくて、単にパワー！を見たいからこれくらいでOKだ

これをどうやってカテゴライズするかって？そんなの目視に決まってるだろ！腕の筋トレだ！

データの中身はこんな感じだ。DBに突っ込んである

contentsはWEBサイトのタイトル、description、本文テキスト全部ぶっ込んでいる

 環境 

検証する環境を紹介するぞ

今回はwindows11のWSL上のubuntuにjupyter labを入れてそこで検証する。

スペックはこうだ！

CPU: Ryzen7 3800XT

MEM: 32G

GPE: RTX2060

実はこれを検証したのは半年以上前なのだが、当時はwin11がまだ出ていなくて、win11のbeta版でやった。

なぜならoeの環境ではwin10でのPyTorchでGPUがうまく動かなかったからだ！ギルティ！

かなり手こずって危うくパソコンをフンッするところだったぜ

 検証 

データが揃ったところで、これを学習用とトレーニング用に分けてモデル生成していく。

ソースはこんな感じだ。

from sqlalchemy import create_engine, bindparam, textimport numpy as npimport pandas as pdfrom sklearn.model_selection import train_test_splitfrom sklearn.metrics import classification_reportimport torchimport torch.nn as nnimport torch.nn.functional as Fimport torch.optim as optimimport torchtextimport timefrom transformers import BertModelfrom transformers import AutoTokenizertokenizer = AutoTokenizer.from_pretrained('cl-tohoku/bert-base-japanese-whole-word-masking')# GPUの設定device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")# CPUでやる場合はこっち# device = torch.device("cpu")engine = create_engine('mysql+mysqlconnector://root@localhost/power?charset=utf8')# 文章取得sql = '''    select         contents,         category     from         homepage'''df = pd.read_sql_query(sql, engine)# カテゴリ取得sqlc = '''    select         distinct category     from         homepage'''df_cate = pd.read_sql_query(sqlc, engine)categories = df_cate['category']id2cat = dict(zip(list(range(len(categories))), categories))cat2id = dict(zip(categories, list(range(len(categories)))))# DataFrameにカテゴリーID列を追加df['category_id'] = df['category'].map(cat2id)df = df.sample(frac=1).reset_index(drop=True)# データセットを本文とカテゴリーID列だけにするついでに整形df = df[['contents', 'category_id']]df['contents'] = df['contents'].replace("\t"," ", regex=True).replace("\n"," ", regex=True).replace("。"," ", regex=True).replace("、"," ", regex=True)df = df[~df['contents'].str.contains('404')]df = df[~df['contents'].str.contains('403')]display(df.head())# 学習データとテストデータに分けるtrain_df, test_df = train_test_split(df, train_size=0.8)train_df.to_csv('./data/train.tsv', sep='\t', index=False, header=None)test_df.to_csv('./data/test.tsv', sep='\t', index=False, header=None)# bertMAX_LENGTH = 512def bert_tokenizer(text):    return tokenizer.encode(text, max_length=MAX_LENGTH, truncation=True, return_tensors='pt')[0]TEXT = torchtext.legacy.data.Field(sequential=True, tokenize=bert_tokenizer, use_vocab=False, lower=False,                            include_lengths=True, batch_first=True, fix_length=MAX_LENGTH, pad_token=0)LABEL = torchtext.legacy.data.Field(sequential=False, use_vocab=False)train_data, test_data = torchtext.legacy.data.TabularDataset.splits(    path='./data/', train='train.tsv', test='test.tsv', format='tsv', fields=[('Text', TEXT), ('Label', LABEL)])BATCH_SIZE = 4train_iter, test_iter = torchtext.legacy.data.Iterator.splits((train_data, test_data), batch_sizes=(BATCH_SIZE, BATCH_SIZE), repeat=False, sort=False)class BertClassifier(nn.Module):    def __init__(self):        super(BertClassifier, self).__init__()        self.bert = BertModel.from_pretrained('cl-tohoku/bert-base-japanese-whole-word-masking',                                              output_attentions=True,                                              output_hidden_states=True)        self.linear = nn.Linear(768*4, 10)        nn.init.normal_(self.linear.weight, std=0.02)        nn.init.normal_(self.linear.bias, 0)    def _get_cls_vec(self, vec):        return vec[:,0,:].view(-1, 768)    def forward(self, input_ids):        output = self.bert(input_ids)        attentions = output['attentions']        hidden_states = output['hidden_states']        vec1 = self._get_cls_vec(hidden_states[-1])        vec2 = self._get_cls_vec(hidden_states[-2])        vec3 = self._get_cls_vec(hidden_states[-3])        vec4 = self._get_cls_vec(hidden_states[-4])        vec = torch.cat([vec1, vec2, vec3, vec4], dim=1)        out = self.linear(vec)                return F.log_softmax(out, dim=1), attentionsclassifier = BertClassifier()for param in classifier.parameters():    param.requires_grad = Falsefor param in classifier.bert.encoder.layer[-1].parameters():    param.requires_grad = Truefor param in classifier.bert.encoder.layer[-2].parameters():    param.requires_grad = Truefor param in classifier.bert.encoder.layer[-3].parameters():    param.requires_grad = Truefor param in classifier.bert.encoder.layer[-4].parameters():    param.requires_grad = Truefor param in classifier.linear.parameters():    param.requires_grad = Trueoptimizer = optim.Adam([    {'params': classifier.bert.encoder.layer[-1].parameters(), 'lr': 5e-5},    {'params': classifier.bert.encoder.layer[-2].parameters(), 'lr': 5e-5},    {'params': classifier.bert.encoder.layer[-3].parameters(), 'lr': 5e-5},    {'params': classifier.bert.encoder.layer[-4].parameters(), 'lr': 5e-5},    {'params': classifier.linear.parameters(), 'lr': 1e-4}])loss_function = nn.NLLLoss()# 学習EPOCH_NUM = 5# 100回す方# EPOCH_NUM = 100start_time = time.perf_counter()classifier.to(device)losses = []for epoch in range(EPOCH_NUM):    all_loss = 0    for idx, batch in enumerate(train_iter):        classifier.zero_grad()        input_ids = batch.Text[0].to(device)        label_ids = batch.Label.to(device)        out, _ = classifier(input_ids)        print(label_ids)                batch_loss = loss_function(out, label_ids)        batch_loss.backward()        optimizer.step()        all_loss += batch_loss.item()                break    print("epoch", epoch, "\t" , "loss", all_loss)    end_time = time.perf_counter()elapsed_time = end_time - start_timeprint(elapsed_time)# 評価start_time = time.perf_counter()answer = []prediction = []with torch.no_grad():    for batch in test_iter:        text_tensor = batch.Text[0].to(device)        label_tensor = batch.Label.to(device)        score, _ = classifier(text_tensor)        _, pred = torch.max(score, 1)        prediction += list(pred.cpu().numpy())        answer += list(label_tensor.cpu().numpy())print(classification_report(prediction, answer, target_names=categories))end_time = time.perf_counter()elapsed_time = end_time - start_timeprint(elapsed_time)

学習の部分と評価の部分をCPU、GPUそれぞれで速度を測った。

まずは5epoch

lossがムラカミの志くらい高かったり、スコアがoeの脂肪率くらい低いのは気にしないでくれ。

一番下が処理秒な

 学習CPU （5epoch）

 学習GPU （5epoch）

5エポックでおよそ3倍の速度が出ている

 評価CPU （5epoch）

 評価GPU （5epoch）

評価の方はCPUは140秒、CUDAの方は9.6秒

およそ14倍速い

140秒あれば、oeならジムに行ってフンっしてシャワーまで浴びれるだろう

次に100epoch

 学習CPU （100epoch）

 学習GPU （100epoch）

CPUが235秒に対し、CUDAが19秒

およそ12倍だ

エポればエポるほどこの差は開くだろう

 評価CPU （100epoch）

 評価GPU （100epoch）

評価の方は5epochとほぼ一緒だ。まぁそうだろう。

その代わり100エポったら精度が上がったな

まさにoeのトレーニングと同じだ！

oeだったら1万エポくらいしちゃうが、みんなは10エポくらいにしておけ

 まとめ 

CPUだと遅い。

まさに子供がやるプロテインシェイクのようだ

それに比べGPUはパワー！だ

RTX2060みたいな型落ちでもこれくらいの速度がでるので、今のやつだともっとパワー！だろう。

そんなわけで、今回はGPUで学習するとパワーだ！ってのを紹介した。

oeの筋肉にもGPU埋め込みたいぜ！

MSI GeForce RTX 3060 AERO ITX 12G OC グラフィックスボード VD7870

Amazon（アマゾン）

69,600〜75,260円

去年もやった Power Technical Agency のカレンダー今年もやるぞ

CyberAgent PTA Advent Calendar 2021 - Adventaradventar.org

今日12/11は最後までカレンダーが空いてたので、クワハラに書いたらどうだって言ったのだが

「へへっ、その日は国際山岳デーなので、富士山ダッシュで行ってきます、へへっ」

ってかわされたので、oeが書くことにした。

ちょうど今週、クワハラとテラサワ、そしてギャンブラームラカミが「クリエイティブエンディン」なるものをリリースしたんだ。

その機能をサンプルソースを交えて、想像で紹介してやろう。

クリエイティブエンディン

クリエイティブと付いている通り、バナー広告のバナー画像をいい感じに自動生成し、機械学習を用いて効果が高いものを配信するといったスィステムだ

今までは、完成形のバナー画像をそのまま入稿し配信していた。

それを、素材とテキストを入稿するだけで最適なバナー画像をウェイするようにした。

そして、逐次生成したものを学習していき常にマッスルウェイなバナー画像を配信するようにしたんだ！

今回は学習の部分は一旦置いておいて、バナー画像生成の部分を紹介するぞ

バナー画像生成

画像編集といえば、ImageMagickあたりがムラカミでも知っているところだろう。

だが今回はAPIとの親和性を持たせるため、Jimpを使った

GitHub - oliver-moran/jimp: An image processing library written entirely in JavaScript for Node, with zero external or native dependencies.An image processing library written entirely in JavaScript for Node, with zero external or native dependencies. - GitHub - oliver-moran/jimp: An image processing library written en…github.com

オリバーが作ってるJavascriptの画像編集モジュールと言ったところか。

このモジュールはバチクソ簡単に画像編集ができる。

クワハラがwindowsのペイントを開いてる時間で、全てが完了してるだろう。

サンプルバナー

サンプルとして、oeジムのバナー画像を生成してやろう

ベースの画像がこれで

テキストは「oekunジム渋谷ダッシュ1分」だ

これを使って300x250のバナー画像を生成するぞ

ちなみに言っておくが、oeはジムをオープンする予定はない。

ソースもとても簡素だ

const Jimp = require('jimp');const fs = require('fs');const text2png = require('text2png');text2png('with custom fonts', {  font: 'M+ 1p',  localFontPath: './fonts/mplus-1p-heavy.ttf',  localFontName: 'M+ 1p'});fs.writeFileSync('text.png', text2png('oekunジム 渋谷ダッシュ1分', {    font: '80px "M+ 1p"',    color: 'white',    textAlign: 'center',    lineSpacing: 20    }));(async function(){  const image = await new Jimp(300, 250, '#000000');  const photo = await Jimp.read('oekun.jpg');  await photo.resize(300, Jimp.AUTO);  await image.blit(photo, 0, 0);  const text = await Jimp.read('text.png');  await text.resize(280, Jimp.AUTO);  await image.blit(text, 10, 50);  image.writeAsync('out.png');})();

これでこうだ！

ポイントはテキストをtext2pngで画像にしてから上に重ねてるところだな

こんな感じで画像の配置は自由自在だ

ぼかしやポスタリゼーションなどのフィルタも簡単にウェイだ！

 

【国内正規品】ON Gold Standard 100% ホエイ ダブルリッチチョコレート 907g(2lb) 「ボトルタイプ」

Amazon（アマゾン）

4,880〜6,999円

 

const Jimp = require('jimp');const fs = require('fs');const text2png = require('text2png');text2png('with custom fonts', {  font: 'M+ 1p',  localFontPath: './fonts/mplus-1p-heavy.ttf',  localFontName: 'M+ 1p'});fs.writeFileSync('text.png', text2png('oekunジム 渋谷ダッシュ1分', {    font: '80px "M+ 1p"',    color: 'white',    textAlign: 'center',    lineSpacing: 20    }));fs.writeFileSync('star.png', text2png('★', {    font: '24px "M+ 1p"',    color: 'white',    textAlign: 'center',    lineSpacing: 20    }));(async function(){  console.log('start');  // base image  const image = await new Jimp(300, 250, '#000000');  // 1枚め読んでリサイズ  const photo = await Jimp.read('oekun.jpg');  await photo.resize(300, Jimp.AUTO);  // baseに配置  await image.blit(photo, 0, 0);  //ぼかし  // image.blur(5);  // ポスタリゼーション  // image.posterize(3);   // テキスト画像も配置  const text = await Jimp.read('text.png');  await text.resize(280, Jimp.AUTO);  await image.blit(text, 10, 50);  // ゴルスタ配置  // const gold = await Jimp.read('golsta.png');  // await gold.resize(180, Jimp.AUTO);  // await image.blit(gold, 150, 90);  // ぽち配置  // const star = await Jimp.read('star.png');  // await image.blit(star, 125, 170);  image.writeAsync('out.png');  console.log('finish');})();

うーん、今日もいい日差しだ

こういう日は浜辺でウェイだな

おっと、あまりに鍛えすぎて、

adobeストイックって透かしが入っちまったぜ

さて、oeはこのままビーチでヴァカンスなので

来週は更新できない

じゃあな！

（安心してくれ、ちゃんと履いてる）

oeは今年の初めくらいから観葉植物を育てている。

こんなかわいいやつなんだ。

（やばい葉っぱではないぜ）

水やりも毎日ではなくて楽なんだが、

ふと思ったことがある。

「木もプロテインを欲してるに違いない」

ってな

そこで、いつもの水をプロテインにしてあげることにした。

そしたら今ではoeと同じくこんなにビッグになったぜ、ウェイ！

テカリ具合もいい感じだろ

もう来週にはオリンピックだな

oeレベルになると、ほぼほぼオリンピック選手なので、組織委員会にも目をつけられていた。

「oekunさん、砲丸投げで出てくれませんか」

ってオファーもあったのだが、oeが出たら簡単に世界新がでて場がシラケてしまうだろうと思い丁重にお断りした。

で、普通の選手と、oeでどれくらい違うかって話だが、

普通の選手はこんな感じだ

まぁよく見るやつだな！

これがoeレベルになるとボールがほぼチョコボールに見える。

森永製菓 チョコボール<ピーナッツ> 28g×20箱

Amazon（アマゾン）

1,280〜2,100円

何を言ってるかわからないと思うが、

oeが構えると、砲丸が小さくて軽そうに見えてしまうんだよな。

昔ちょっとやったラグビーも、あまりのoeの筋肉のデカさに、

相手チームから、

「oeがアーモンドチョコを投げてると思ったらボールだった」

って、言われたくらいだぜ

明治 アーモンドチョコ大箱 173g

Amazon（アマゾン）

648〜1,580円

なんてな、oeジョークだ。