Artikulli #4

Context Window — Sa Mund të "Kujtojë" një Model AI?

Prompt Engineering — Pjesa I — AI Theorie

Context Window (Dritarja e Kontekstit)Sasia e tokenëve që një model gjuhësor mund t'i shohë dhe përpunojë njëkohësisht brenda një bashkëbisedimi — përfshin edhe pyetjet, edhe përgjigjet e mëparshme. është sasia e tokenëve që një model gjuhësor mund të "shohë" dhe përpunojë njëkohësisht — te ChatGPT me plan falas, për shembull, kjo ka qenë rreth 8.000 tokenë (afërsisht 8.000 fjalë). Kjo sasi mbulon jo vetëm çfarë shkruan ti, por edhe çfarë përgjigjet vetë modeli brenda të njëjtit bashkëbisedim. Sapo teksti i kaluar tejkalon këtë kufi, modeli fillon të "harrojë" pjesë të tij — zakonisht fillimin e bisedës. Duket si zgjidhje e thjeshtë "ta bëjmë dritaren gjigante", por një context window shumë i madh sjell probleme të veta: Diminishing Returns (Kthime në Rënie)Fenomeni ku, pas një pike të caktuar, çdo token shtesë në context window kontribuon gjithnjë e më pak në cilësinë e përgjigjes së modelit., Attention (Vëmendja)Mekanizmi me të cilin një model gjuhësor vendos sa 'vëmendje' i kushton çdo tokeni në raport me tokenët e tjerë, kur përpunon një tekst. që shpërndahet gjithnjë e më hollë, dhe Attention Dilution (Holluarja e Vëmendjes)Pasojë e context window-eve të mëdha: vëmendja e modelit shpërndahet mbi shumë më tepër tokenë, dhe tokenët vërtet të rëndësishëm rrezikojnë të mos njihen më si qendrorë..

1 Thelbi Kuiz i shpejtë

1. Çfarë është Context Window, sipas artikullit?

2. Çfarë ndodh kur biseda tejkalon kufirin e context window-it?

3. Çfarë përfshihet në llogaritjen e context window-it, sipas artikullit?

Përgjigju saktë të gjitha pyetjeve dhe kalo tek ndarja e radhës 2 Shpjegimi

Ushtro termat

Zgjidh një term për ta ushtruar, ose provo ushtrimin "Përputh çdo term me përkufizimin".

← Kthehu te të gjithë artikujt