【教材紹介】BERTによる自然言語処理

投稿日：2022年1月13日更新日：2022年1月12日

自然言語処理の応用モデルであるBERTを今すぐに使いたい、機械学習の概要を知っている担当者レベルに向けた書籍を紹介します。

名称

ストックマーク株式会社
近江崇宏、金田健太郎、森長誠、江間見亜利

自然言語処理で難易度の高いタスクがあり、BERTを使うことでどうにかしたいという担当者向けの技術的な書籍です。
機械学習や自然言語処理の説明はそこそこに、BERTを自分で使えるようにするために色々なレクチャーが行われます。

基本的な機械学習の知識（データ準備→学習→検証等）

Python, Pytorch, BertModel, Tokenizer, 事前学習, ファインチューニング, 文章の穴埋め, 文章分類, 固有表現抽出, 類似文章分類

その他の教材紹介ページはこちら → Skill Stacks

執筆者：rei

: [社内コンペ] 細胞画像認識

これは何？某社で行われている社内コンペのメモです。私の備忘録でもあります。結果：2位精度：68.3% 120枚をクラス1～3で各40枚としていました。ただし、その数値に合わせに行こうとすること …

: 【初心者向け】mysqlclientのインストールで詰まったときの補足

コマンドラインでmysqlを使いたい！と思ったら、思わぬ罠がありましたので紹介します。 *僕の場合はpythonで使いたい！というものでしたが、他でも使えることを確認しています。まずコマンドラインで …

: 手書き数字診断士（機械学習）ver 0.1 K近傍法を使ってみた

手書き文字の判定精度が全然上がらないので、他の手法を試してみました。 sklearnの開発元によると、以下の方法が良いらしい・・・。なるほど！SVCで上手くいかない → K近傍法だな！早速実装 p …

: 【教材紹介】すぐわかる統計処理の選び方

データは揃った。ただ、どんな分析をすればいいのかわからない。そんな人に向けて、データのパターン別に分析方法をレクチャーする本を紹介します。名称すぐわかる統計処理の選び方著者石村貞夫・石村光資郎 …

: 自然言語処理×教師なし学習での温故知新 PythonでBERT-MaskedLM実装

はじめに自然言語処理（BERT、GPT-3）および画像認識（ViT）等で以前のState of The Artモデルを超える精度を発揮したTransformer（元論文：Attention Is A …