Stand Up and Shout!

勉強したことや、思いついたことを気ままに記述します

ChatGPTの頭の中

2024年7月19日に「ChatGPTと語る未来の目次を俯瞰する」という本が出版されました。

話題の対話型AI(人工知能)、ChatGPTが即座に生み出す「あたかも自然な言葉」に驚愕した人は多いはず。我々の生活やビジネスに大きな影響を与えつつあるChatGPTはどのような仕組みで、なぜ機能するのかを、その原理から科学的に解明するのが本書。
プログラミングによって生まれたニューラルネットが自然な言語生成を可能にした先に、限界はあるのか? さらに、ChatGPTの原理を解析することで見えてきた「言語の法則」や「思考の法則」という“人間にとって最大級の発見”を示唆する。
本書後半ではChatGPTの弱点を指摘し、計算能力に特化したサービスと組み合わせて性能を劇的に向上させる方法を提案。利用者にとってもプログラマー・エンジニアにとっても大きなヒントとなる、ChatGPT基礎の徹底解説本。

目次の俯瞰(マークダウン形式)

# ChatGPTの頭の中
## はじめに
## 編注 Wolfram言語の基本
## 第1部 ChatGPTは何をしているのか、 なぜ動くのか
### 実は、1つずつ単語を足しているだけ
### 確率はどこから求めるのか
### モデルとは何か
### 人間と同じような処理をこなすモデル
### ニューラルネット
### 機械学習ニューラルネットの訓練
### ニューラルネットの訓練の実践と知見
### 「ネットワークが十分に大きければ何でもできる」のか
### 埋め込みの概念
### ChatGPTの内部
### ChatGPTを訓練する
### 基本的な訓練の次にあるもの
### 実際にChatGPTを動かしているもの
### 意味空間と 「意味論上の運動の法則」
### 意味文法と計算言語のカ
### ということで、 ChatGPTは何をしているのか、 なぜ機能するのか
### 謝辞
## 第2部 Wolfram|Alpha - 計算知識の強大な力をChatGPTに
### ChatGPTとWolfram | Alpha
### 基本的な例から
### そのほかの例をいくつか
### 今後の展望