Návrh Školení

Architektura a návrh aplikací LLM

  • Běžné vzory aplikací OpenAI pro asistenty, spolupracovníky a automatizaci pracovních postupů
  • Výběr vhodné architektury podle obchodních požadavků, spolehlivosti a uživatelské zkušenosti
  • Přechod od prototypového kódu k udržitelnému návrhu aplikace

Promptování, kontext a strukturované výstupy

  • Strukturování systémových, uživatelských a vývojářských instrukcí pro předvídatelné chování
  • Navrhování promptů pro konzistenci, kontrolu úkolů a srozumitelnější odpovědi
  • Využití strukturovaných výstupů pro podporu logiky downstreamových aplikací
  • Správa okének kontextu, stavu konverzace a kvality odpovědí

Využití nástrojů a orchestrace pracovních postupů

  • Využití volání funkcí a pracovních postupů podporovaných nástroji s externími službami
  • Ověřování vstupů a výstupů, zpracování chyb a uplatňování záložních chování
  • Navrhování vícestupňových toků pro praktické obchodní úkoly

Vyhledávání a zakotvení znalostí

  • Identifikace, kdy je vhodné použít generování augmentované vyhledáváním (RAG)
  • Příprava dokumentů a chunkování obsahu pro užitečné vyhledávání
  • Získávání relevantního kontextu a zakotvování odpovědí v důvěryhodných zdrojích

Evaluace, bezpečnostní omezení a připravenost pro provoz

  • Definování kritérií kvality a testování pracovních postupů proti očekávaným výsledkům
  • Snížení halucinací a zpracování nebezpečných, irelevantních nebo nejednoznačných požadavků
  • Sledování využití, latence, spotřeby tokenů a nákladů
  • Příprava aplikací pro nasazení, podporu a iterativní vylepšování

Praktický workshop implementace

  • Budování malé kompletní aplikace OpenAI, která kombinuje prompting, strukturovaný výstup, využití nástrojů a vyhledávání
  • Recuze rozhodnutí při návrhu, běžných problémů a praktických dalších kroků pro nasazení do produkce

Požadavky

  • Seznámenost s koncepty velkých jazykových modelů a vývojem aplikací založeným na API
  • Zkušenosti s prací s REST API, JSON a pracovními postupy aplikací řízenými prompty
  • Středně pokročilé programátorské zkušenosti v jazyce Python, JavaScriptu nebo podobném jazyce

Cílová skupina

  • Vývojáři softwaru vytvářející aplikace poháněné LLM
  • Inženýři AI a techničtí lídři navrhující řešení založená na OpenAI
  • Tým produktových manažerů a architekti řešení odpovědní za výrobní funkce AI
 7 Hodiny

Počet účastníků


Cena za účastníka

Nadcházející kurzy

Související kategorie