Kontextové okno u AI modelů: co to je a proč na něm záleží
Proč si AI chatbot najednou přestane pamatovat začátek dlouhé konverzace nebo dokumentu? Vysvětlení kontextového okna, jeho limitů a toho, co se stane, když se zaplní.
Téma · 4 články
Proč si AI chatbot najednou přestane pamatovat začátek dlouhé konverzace nebo dokumentu? Vysvětlení kontextového okna, jeho limitů a toho, co se stane, když se zaplní.
AI má vlastní slovník plný zkratek a anglicismů. Tenhle glosář vysvětluje přes 60 pojmů jako prompt, token nebo RAG stručně a srozumitelně, aby vám nic nebránilo ve čtení dalších článků o AI.
Kamarád si nechal spočítat fakturu za AI API a nestačil se divit. Vysvětluju, co je token, proč se podle nich počítá cena i limity modelů a proč čeština vychází dráž než angličtina.
Jak model skutečně generuje text? Od tokenů přes self-attention po predikci dalšího slova. Technické, ale srozumitelné vysvětlení principu LLM pro zvídavé čtenáře.