【教材紹介】BERTによる自然言語処理

投稿日：2022年1月13日更新日：2022年1月12日

自然言語処理の応用モデルであるBERTを今すぐに使いたい、機械学習の概要を知っている担当者レベルに向けた書籍を紹介します。

名称

ストックマーク株式会社
近江崇宏、金田健太郎、森長誠、江間見亜利

自然言語処理で難易度の高いタスクがあり、BERTを使うことでどうにかしたいという担当者向けの技術的な書籍です。
機械学習や自然言語処理の説明はそこそこに、BERTを自分で使えるようにするために色々なレクチャーが行われます。

基本的な機械学習の知識（データ準備→学習→検証等）

Python, Pytorch, BertModel, Tokenizer, 事前学習, ファインチューニング, 文章の穴埋め, 文章分類, 固有表現抽出, 類似文章分類

その他の教材紹介ページはこちら → Skill Stacks

執筆者：rei

: 自然言語処理×教師なし学習での温故知新 PythonでBERT-MaskedLM実装

はじめに自然言語処理（BERT、GPT-3）および画像認識（ViT）等で以前のState of The Artモデルを超える精度を発揮したTransformer（元論文：Attention Is A …

: 【教材紹介】機械学習を解釈する技術

多くの企業で導入されるようになってきた機械学習。その機械の判断基準、本当にわかっていますか？今回は、実務に利用するために最低限の技術として、変数（特徴量）の重要度や変数と予測値の関係性を求める方法 …

: 【社内コンペ】回帰分析メモ完全版

これは何？某社で行われている社内コンペのメモです。私の備忘録でもあります。結果：1問差で2位でした。残念。今回の目的変数建築物の坪単価 ※「え、建物の単価じゃないのか」と思ったあなたは正常。 …

: [Meisyo]練習難易度の不均衡是正への分析的アプローチ

「練習ごとに難易度が違いすぎるんですけど！！」という不満は把握しています。ただ、これまでそこには触れてきませんでした。なぜなら・・・まだデータ取れてないし、分析できないでしょ（言い訳）・・・怠慢 …

: 【教材紹介】深層学習 2020年度春学期 · ニューヨーク大学データ・サイエンス・センター

米国大学のコンピューターサイエンスの講義を無料で、かつ日本語で公開されている教材がありましたので共有いたします。名称深層学習 DS-GA 1008 · 2020年度春学期 · ニューヨーク大学デー …