【教材紹介】BERTによる自然言語処理

投稿日：2022年1月13日更新日：2022年1月12日

自然言語処理の応用モデルであるBERTを今すぐに使いたい、機械学習の概要を知っている担当者レベルに向けた書籍を紹介します。

名称

ストックマーク株式会社
近江崇宏、金田健太郎、森長誠、江間見亜利

自然言語処理で難易度の高いタスクがあり、BERTを使うことでどうにかしたいという担当者向けの技術的な書籍です。
機械学習や自然言語処理の説明はそこそこに、BERTを自分で使えるようにするために色々なレクチャーが行われます。

基本的な機械学習の知識（データ準備→学習→検証等）

Python, Pytorch, BertModel, Tokenizer, 事前学習, ファインチューニング, 文章の穴埋め, 文章分類, 固有表現抽出, 類似文章分類

その他の教材紹介ページはこちら → Skill Stacks

執筆者：rei

: 手書き数字診断士（機械学習）ver 0.0

手書き数字診断士、まずは動くようにしました。ただ、初っ端から間違えています・・・！動画 http://webmaking.rei-farms.jp/wp-content/uploads/2018/ …

: [Meisyo]今後やっていきたいこと

Meisyoで今年中にやっておきたいことこれさえやればDAU（日ごとのアクティブユーザ）が100人を超えるのでは？と思います。まずは目的・内容を書いて、理由と考察を書きます。目的ユーザがゲーム …

: スッキリわかるSQL入門第2版題材A 問75

回答が非常に長い気がするのはなぜだろうか。 /* 自己結合を用いた場合 */ SELECT DISTINCT K1.名義, K1.口座番号, K1.種別, K1.残高, K1.更新日 FROM 口座 …

: 【教材紹介】XAI(説明可能なAI)

今日では、さまざまなデータが収集され、判断の自動化や数値予測の高度化が行われています。そのAIの判断、どう説明すればいいかわかりますか？エクセルのようなテーブルデータだけでなく、画像やテキストに対 …

: 自然言語処理×教師なし学習での温故知新 PythonでBERT-MaskedLM実装

はじめに自然言語処理（BERT、GPT-3）および画像認識（ViT）等で以前のState of The Artモデルを超える精度を発揮したTransformer（元論文：Attention Is A …