Создание большой языковой модели (с нуля) [Sebastian Raschka]

Складчина: Создание большой языковой модели (с нуля) [Sebastian Raschka]

язык - английский


Build a Large Language Model (from Scratch)

Планируйте и кодируйте все части LLM
Подготовьте набор данных, подходящий для обучения LLM.
Точная настройка LLM для классификации текста и ваших собственных данных
Применяйте методы настройки инструкций, чтобы ваш LLM следовал инструкциям.
Загрузите предварительно обученные веса в LLM
Большие языковые модели (LLM), которые используются в таких передовых инструментах искусственного интеллекта, как ChatGPT, Bard и Copilot, кажутся чудом, но это не волшебство. Эта книга раскрывает тайну LLM, помогая вам создать свою собственную с нуля. Вы получите уникальную и ценную информацию о том, как работают LLM, научитесь оценивать их качество и выберете конкретные методы для их точной настройки и улучшения.

Процесс, который вы используете для обучения и разработки собственной небольшой, но функциональной модели в этой книге, повторяет те же шаги, которые используются для создания крупномасштабных базовых моделей, таких как GPT-4. Ваш небольшой LLM можно разработать на обычном ноутбуке и использовать его в качестве личного помощника.
о книге
«Создание большой языковой модели (с нуля)» — это единственное в своем роде руководство по созданию собственной работающей LLM. В нем эксперт по машинному обучению и автор Себастьян Рашка раскрывает, как LLM работают под капотом, срывая крышку с черного ящика генеративного искусственного интеллекта. Книга наполнена практическими сведениями о построении LLM, включая построение конвейера загрузки данных, сборку их внутренних строительных блоков и методы точной настройки. По ходу дела вы постепенно превратите свою базовую модель в инструмент классификатора текста и чат-бота, который следует вашим разговорным инструкциям.

Спойлер: Оригинал описания

Build a Large Language Model (from Scratch) teaches you how to:

• Plan and code all the parts of an LLM
• Prepare a dataset suitable for LLM training
• Finetune LLMs for text classification and with your own data
• Apply instruction tuning techniques to ensure your LLM follows instructions
• Load pretrained weights into an LLM

The large language models (LLMs) that power cutting-edge AI tools like ChatGPT, Bard, and Copilot seem like a miracle, but they’re not magic. This book demystifies LLMs by helping you build your own from scratch. You’ll get a unique and valuable insight into how LLMs work, learn how to evaluate their quality, and pick up concrete techniques to finetune and improve them.

о читателе
Для читателей, знающих Python. Опыт разработки моделей машинного обучения полезен, но не обязателен.

об авторе
Себастьян Рашка занимается машинным обучением и искусственным интеллектом более десяти лет. Себастьян присоединился к Lightning AI в 2022 году, где сейчас занимается исследованиями в области искусственного интеллекта и магистратуры, разработкой программного обеспечения с открытым исходным кодом и созданием учебных материалов. До этого Себастьян работал в Университете Висконсин-Мэдисон доцентом кафедры статистики, специализируясь на исследованиях в области глубокого обучения и машинного обучения. Он страстно любит образование и наиболее известен своими бестселлерами по машинному обучению с использованием программного обеспечения с открытым исходным кодом.

электронная книга: PDF, ePub, онлайн

Стоимость на сегодня со скидкой: 23,99 $ ~2000 руб.
Скрытая ссылка