【教材紹介】BERTによる自然言語処理

投稿日：2022年1月13日更新日：2022年1月12日

自然言語処理の応用モデルであるBERTを今すぐに使いたい、機械学習の概要を知っている担当者レベルに向けた書籍を紹介します。

名称

ストックマーク株式会社
近江崇宏、金田健太郎、森長誠、江間見亜利

自然言語処理で難易度の高いタスクがあり、BERTを使うことでどうにかしたいという担当者向けの技術的な書籍です。
機械学習や自然言語処理の説明はそこそこに、BERTを自分で使えるようにするために色々なレクチャーが行われます。

基本的な機械学習の知識（データ準備→学習→検証等）

Python, Pytorch, BertModel, Tokenizer, 事前学習, ファインチューニング, 文章の穴埋め, 文章分類, 固有表現抽出, 類似文章分類

その他の教材紹介ページはこちら → Skill Stacks

執筆者：rei

: 自然言語処理×教師なし学習での温故知新 PythonでBERT-MaskedLM実装

はじめに自然言語処理（BERT、GPT-3）および画像認識（ViT）等で以前のState of The Artモデルを超える精度を発揮したTransformer（元論文：Attention Is A …

: 【教材紹介】入門統計的因果推論

因果を推定することはビジネスにとってもインパクトがあります。今回は、UCLAで教えられている因果推論の講義をまとめた、因果推論を使うための前知識として非常に重要な1冊を紹介します。名称入門統計的 …

: 【教材紹介】異端の統計学ベイズ

今回はベイズ統計学の歴史書です。今でこそ、頻度論の統計学とベイズ統計学などをひとまとめにして統計学と言われていますが、そこに至るまでに何があったのか？そちらを詳細に記述する500ページ越えの大作です。 …

: TensorFlowまで到達

ちょいちょい数式に詰まりながらも、DeeplearningのフレームワークTensorFlowの学習まで漕ぎ着けました。一番困ったのは「説明無しで数式使うよ！」マジやめてください・・・まあ勉強する …

: [Python]グリッドサーチを軽量化し、チューニングしたパラメータも反映する機構を作る

パラメータチューニング方法であるグリッドサーチ、確かに自動で実行してくれて、すごく便利なのですが問題点があります。めっちゃ時間がかかるもし、下記のパラメータ設定のモノを全てグリッドサーチしようと …