РозробкаПідрозділ
AI / LLM
Як будувати фічі на компоненті, що двічі дає різні відповіді на те саме питання. Шість тем у порядку появи: що модель насправді робить, як її правильно питати, як дати їй ваші дані, коли міняти саму модель, як усе це запускати в продакшні й що змінюється, коли вона може викликати інструменти. Тестування таких фіч — окрема дисципліна, і воно живе в розділі QA.
Що всередині
Усі сторінки цієї групи — і про що кожна з них.
- Основи LLMПередбачення наступного токена, контекстні вікна й токен як одиниця вартості — модель мислення, потрібна далі всім.ТокениКонтекст
- Промпт-інженеріяАнатомія робочого промпту, чому приклади сильніші за прикметники і де промптингу перестає вистачати.СтруктураПриклади
- RAG-архітектураПошук як частина, що справді вирішує якість: чанкінг, гібридний пошук, реранкінг і перевірка цитат.ПошукЧанкінг
- Fine-tuningДрабина адаптації — промпт, пошук, потім донавчання — і чесна перевірка, коли останній щабель виправданий.LoRAКоли не варто
- LLMOpsЕксплуатація в продакшні: набір оцінок як релізні ворота, версіонований артефакт, трасування й контроль вартості.Набори оцінокТрасування
- AI-агентиЦикл «планувати, діяти, спостерігати»: чим насправді є виклик інструмента і де агент перестає бути правильною формою.ІнструментиЦикли
З чого почати
- Перша фіча на LLMОснови, потім промпт-інжиніринг. Більшість проблем, з якими йдуть до RAG чи донавчання, є проблемами промпту.
- Потрібні ваші власні даніАрхітектура RAG — і уважно читайте половину про пошук: саме звідти й береться якість.
- Воно працює і тепер їде в релізLLMOps — щоб її експлуатувати, потім розділ QA — щоб її тестувати: це одна задача з двох боків.
Інше в цьому розділі
- РозробкаРозробка програмного забезпечення — це робота про те, де проходять межі в системі, що працює по кожен їхній бік і чого коштуватиме зсунути одну з цих меж, коли код уже працює. У розділі 28 тем: архітектура, браузер, пʼять бекенд-середовищ, чотири мобільні платформи, мовні моделі та бази даних під усім цим. Кожна сторінка тримається на обмеженні, яке справді відрізняє варіанти, а не на поверхні API.
- Тестування AIКоли той самий ввід перестає давати той самий вивід, перевірка на рівність втрачає сенс, а один запуск перестає бути доказом. Три теми: що це змінює для того, хто пише кейси; як оцінити одну відповідь, не витрачаючи гроші на заміну факту думкою; і як відрізнити справжню регресію від шуму семплінгу. Експлуатація LLM-фічі в продакшні — це LLMOps у «Розробці»; ці три володіють її тестуванням.
- MLOpsУсе, що має бути правдою до того, як модель підпустять до продакшну, і все, що лишається правдою після. Три теми: пайплайн, що робить тренувальний запуск відтворюваним; шлях обслуговування, де затримка й вартість стають чиєюсь проблемою; і індекс, що робить пошук за схожістю достатньо швидким. Експлуатація саме LLM-фічі — це LLMOps, у розділі «Розробка».
Було корисно?
Поділіться з тим, хто працює над тією ж задачею.