2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00
2026-05-20 20:55:03 +03:00

«От чёрного ящика к инженерии»

Практическая книга о том, как понимать, проектировать и контролировать LLM-системы.

Здесь собран не набор «магических промптов», а инженерный взгляд на современные большие языковые модели: от токенизации, attention и MLP-памяти до агентных контуров, tool use, RAG, верификации и AI-friendly разработки.

Актуальный контекст книги: апрель 2026 года.

Как создавалась книга

Книга написана полностью с помощью оркестрации Claude Opus 4.6, с точечной валидацией ключевых фрагментов и формулировок через GPT 5.4 High.

Для кого эта книга

  • для software-инженеров, которые встраивают LLM в продукты, backend-сервисы и интерфейсы;
  • для ML-инженеров, которые работают с inference, fine-tuning, RAG и quality-контролем;
  • для техлидов и архитекторов, которые принимают решения о внедрении LLM в production;
  • для разработчиков, которые хотят перейти от интуитивного промптинга к предсказуемой инженерии.

Что внутри

Книга разбита на 26 глав и идёт от механики модели к архитектуре систем:

  • Главы 15: фундамент — токены, embeddings, attention, MLP, галлюцинации, каузальное декодирование, длинный контекст;
  • Главы 69: протоколирование — промпт как контракт, XML-разметка, многогипотезность, декомпозиция задач;
  • Главы 1013: архитектура — агент vs чат, инструменты, RAG, антигаллюцинационный контур, верификация;
  • Главы 1415: качество и безопасность — evals (golden sets, LLM-as-Judge, regression gates), безопасность (prompt injection, jailbreaks, red-teaming, guardrails);
  • Главы 1617: код и наблюдаемость — AI-friendly код, LDD, observability (OpenTelemetry, SLO, incident response);
  • Главы 1820: продвинутые темы — мультимодальные системы, дообучение и post-training, паттерны проектирования;
  • Главы 2122: serving и runtime — inference pipeline, KV-кэш, PagedAttention, quantization, durable orchestration, жизненный цикл агента;
  • Глава 23: внедрение — минимальный контур, метрики, постепенная интеграция;
  • Глава 24: ландшафт 2026 — гибридные архитектуры, reasoning-модели, MoE, SSM/Mamba, экономика inference;
  • Глава 25: резюме и первоисточники.

Каждая глава завершается практическим выводом и списком источников.

Как читать

  • Если тема новая, начинайте последовательно с book/00_introduction.md и дальше по главам.
  • Если нужен справочник по конкретной теме, можно читать выборочно: главы самодостаточны и связаны навигацией.
  • Если интересует прикладная работа, после фундамента переходите к book/10_agent_not_chat.md, book/11_tools.md, book/12_rag.md, book/13_anti_hallucination_loop.md.
  • Если интересует внедрение в команду и кодовую базу, откройте book/16_code_architecture.md и book/23_getting_started.md.
  • Если интересует оценка качества и безопасность, смотрите book/14_llm_system_quality_evaluation.md и book/15_llm_system_security.md.

Что вы получите

  • ментальные модели того, как LLM реально работают;
  • практические паттерны для промптов, agent loop, tool use и верификации;
  • анти-паттерны, которые ломают production-системы;
  • чек-листы для внедрения, отладки и масштабирования;
  • подборку первичных статей, спецификаций и репозиториев по каждой теме.

Структура репозитория

  • book/ — основной текст книги по главам;
  • BlackboxBook.pdf — готовая PDF-сборка;
  • scripts/build_book_pdf.py — скрипт локальной сборки PDF;
  • build_pdf.command — удобный запуск стандартной PDF-сборки на macOS;
  • build_pdf_ebook.command — удобный запуск ebook/Kindle-сборки на macOS;
  • build_pdf_phone.command — удобный запуск phone-сборки для узкого экрана на macOS;
  • .github/agents/ — агенты GitHub Copilot для редактуры, фактчекинга, консистентности и оркестрации;
  • .github/instructions/ и .github/prompts/ — инструкции и prompt-шаблоны для работы с книгой.

С чего начать

  • Читать PDF: BlackboxBook.pdf
  • Читать по главам: book/00_introduction.md

Локальная сборка PDF

Если вы читаете книгу из репозитория и хотите пересобрать PDF локально:

python3 scripts/build_book_pdf.py --source book --output BlackboxBook.pdf

Понадобятся pandoc и один из PDF-движков: tectonic, xelatex или lualatex.

./build_pdf.command собирает стандартный BlackboxBook.pdf в формате A4.

./build_pdf_ebook.command собирает BlackboxBook_ebook.pdf в формате 6in x 8in с уменьшенными полями для чтения на Kindle с 7" экраном, автоматически переносит длинные строки в fenced code blocks и немного уменьшает шрифт в коде.

./build_pdf_phone.command собирает BlackboxBook_phone.pdf в формате 4.1in x 9.1in с узкой текстовой колонкой и уменьшенными полями для чтения на экране смартфона без зума; длинные строки в fenced code blocks переносятся автоматически.

О подходе книги

Главная идея проста: LLM нельзя надёжно использовать как магию. Ими нужно управлять как инженерной системой — через понимание механики, явные протоколы, внешние инструменты, верификацию и наблюдаемость.

Именно этому посвящена книга.

Description
От чёрного ящика к инженерии
Readme 97 MiB
Languages
Python 86.2%
Shell 13.8%