GPTとは?

所要時間

20分

学ぶコト

GPTとは

2017年にTransformerが発表されて以降、それを皮切りに様々な大規模自然言語モデルが発表されてきました。

その中でも一際目立っており、さらなるAIブームの火付け役になったのがOpenAIが発表したGPT(Generative Pretrained Transformer)というモデルです。

GPTは初期タイプが2018年に発表され、2019年にはGPT-2、2020年にはGPT-3、そして2022年にGPT-3.5にあたるChatGPT、2023年にGPT-4が発表されました。

ChatGPTの登場は衝撃で、多くの人が高精度のAIチャットボットの出現に驚愕しました。

まずは、GPTシリーズの変遷を動画で確認していきましょう!

GPTシリーズの変遷

これからもGPTの進化はとどまることを知らず、どんどん賢くなっていくでしょう。

ちなみにLLM(大規模自然言語モデル)の進化の歴史は以下の論文にまとめてありますので興味のある方は一読してみるとよいでしょう!

A Survey of Large Language Models

論文の中でLLMの進化チャートがまとめられています。

LLMの歴史

私達は、このAIの進化を驚異と捉えるのではなく機会と捉えてAIと共存していく必要があるのです。

ということで次のレッスンからは実際にTransformerをベースにしたGPTモデルをPythonで動かしていきましょう!