Artikulli #5

Context Window — Si e Zgjidhim Problemin e Dritares? (Pjesa II)

Prompt Engineering — Pjesa I — AI Theorie

Në artikullin e kaluar pamë pse një Context Window (Dritarja e Kontekstit)Sasia e tokenëve që një model gjuhësor mund t'i shohë dhe përpunojë njëkohësisht brenda një bashkëbisedimi. shumë i madh s'është zgjidhje automatike — sjell Diminishing Returns (Kthime në Rënie)Fenomeni ku, pas një pike të caktuar, çdo token shtesë në context window kontribuon gjithnjë e më pak në cilësinë e përgjigjes së modelit. dhe Attention Dilution (Holluarja e Vëmendjes)Pasojë e context window-eve të mëdha: vëmendja e modelit shpërndahet mbi shumë më tepër tokenë, dhe tokenët vërtet të rëndësishëm rrezikojnë të mos njihen më si qendrorë.. Zgjidhja s'është ta bëjmë dritaren edhe më gigante, por ta menaxhojmë më mençur atë që futet brenda saj: të filtrojmë informacionin e panevojshëm para se biseda të fillojë, ta strukturojmë tekstin qartë (tituj, lista, Markdown), dhe mbi të gjitha të përdorim RAG (Retrieval Augmented Generation)AI me funksion kërkimi të integruar — para se të ndërtojë përgjigjen, modeli kërkon vetë brenda bazës së tij të të dhënave për seksionet e rëndësishme lidhur me pyetjen, dhe vetëm ato seksione përdoren për të formuar context window-in e përgjigjes. — teknikë ku modeli kërkon vetë në një bazë të dhënash për pjesët vërtet të rëndësishme, në vend që t'i marrë të gjitha njëherësh. Te projektet e kodit, kjo do të thotë edhe një pyetje shtesë: çfarë duhet vërtet t'i "tregohet" AI-së — kodi, dokumentacioni, arkitektura, planifikimi — dhe çfarë mbetet përgjegjësi njerëzore.

1 Thelbi Kuiz i shpejtë

1. Sipas artikullit, cila është qasja bazë, e parë, për të përmirësuar context window-in?

2. Çfarë është RAG, sipas artikullit?

3. Pse struktura e qartë e tekstit (tituj, lista, Markdown) e ndihmon AI-në?

Përgjigju saktë të gjitha pyetjeve dhe kalo tek ndarja e radhës 2 Shpjegimi

Ushtro termat

Zgjidh një term për ta ushtruar, ose provo ushtrimin "Përputh çdo term me përkufizimin".

← Kthehu te të gjithë artikujt