Чем GPT отличается от нейросети вообще
Коротко: нейросеть — общий способ машинного обучения, GPT — одно семейство языковых моделей, построенных на нейросетях, а ChatGPT — сервис для переписки на их основе. Каждое понятие уже предыдущего: любая модель GPT — нейросеть, но далеко не каждая нейросеть — GPT.
Что значат буквы GPT
GPT — Generative Pre-trained Transformer:
- Generative (генеративная) — порождает новый текст, а не выбирает из готовых;
- Pre-trained (предобученная) — сначала обучена на огромном объёме текстов угадывать продолжение, а уже потом дообучена под задачи;
- Transformer (трансформер) — схема устройства нейросети, предложенная в 2017 году. Она умеет связывать между собой далёкие части текста и хорошо обучается на множестве видеокарт сразу.
Модели GPT выпускает компания OpenAI; первая вышла в 2018 году. Чат-сервис ChatGPT появился в конце 2022 года и сделал языковые модели известными всем.
Другие языковые модели
Языковые модели делают и другие компании и исследовательские группы. Почти все современные из них тоже построены по схеме трансформер, но называются иначе и GPT не являются. В обиходе «GPT» или «чат GPT» иногда называют любой чат-бот с ИИ — это неточно: GPT — название одного семейства моделей, а не всех.
Общее название для всех таких моделей — большие языковые модели, LLM (large language model).
Нейросети бывают разные
| Вид нейросети или модели | Для чего |
|---|---|
| Свёрточные | Распознавание изображений: лица, предметы, текст на фото |
| Рекуррентные | Раньше — текст и речь; сейчас их во многом вытеснили трансформеры |
| Трансформеры | Языковые модели, перевод, всё чаще — картинки и звук |
| Диффузионные модели | Генерация картинок и видео по описанию; внутри у них тоже нейросеть |
Нейросеть, которая узнаёт кошку на фото, и нейросеть, которая пишет сочинение, устроены по-разному и обучены на разных данных. Объединяет их только общий принцип — слои нейронов и веса, подобранные обучением (урок Что такое ИИ, машинное обучение и нейросеть).
Не путайте с GPT в компьютере
В настройках дисков GPT значит совсем другое — GUID Partition Table, способ разметки диска на разделы (его сравнивают с MBR). К нейросетям эта аббревиатура отношения не имеет.