用語集 ／ しくみ
Transformer（トランスフォーマー）とは？今の生成AIのほとんどが使っている、文章などを処理する仕組み。
追加：2026-10-11確認：2026-10-11
Transformer（トランスフォーマー）とは、今の生成AIのほとんどが使っている、文章などを処理する仕組みです。
| 読み方 | とらんすふぉーまー |
|---|---|
| 英語 | Transformer |
| 分類 | しくみ |
| 始まり | 2017年6月（論文の公開） |
Transformer（トランスフォーマー）の意味
文の中の言葉どうしの関係を、「どの言葉にどれだけ注目すべきか（アテンション）」で計算するのが特徴です。文章をまとめて並べて計算できるため、大量のデータで学ばせやすくなりました。
2017年6月、Google の研究者らが論文「Attention Is All You Need」で発表しました。GPT・Claude・Gemini など、今の主な生成AIはこの仕組みをもとにしています。
何が新しかったのか
それまでの主な方法は、文を1語ずつ順番に処理していました。Transformer は文全体をまとめて見て、言葉どうしの関係を同時に計算します。
このため計算を並べて速く進められるようになり、とても大量の文章で学ばせることができるようになりました。
Transformer（トランスフォーマー）のよくある質問
Transformerはいつ発表されましたか？
2017年6月に、Google の研究者らが論文「Attention Is All You Need」で発表しました。
GPTとTransformerの関係は？
GPTは「Generative Pre-trained Transformer」の略で、Transformer の仕組みを使った言語モデルです。
年表で見るTransformer（トランスフォーマー）
2017年6月12日
Transformerの論文
2018年10月11日