Artikulli #6

Përdorimi i AI-së Lokalisht me LM Studio

Prompt Engineering — Pjesa I — AI Theorie

LM StudioSoftuer që lejon shkarkimin dhe ekzekutimin e modeleve gjuhësore (LLM) drejtpërdrejt në kompjuterin e përdoruesit, pa nevojë interneti, me kontroll të plotë mbi cilësimet teknike si madhësia e context window-it. është një softuer që të lejon të shkarkosh dhe të ekzekutosh modele gjuhësore drejtpërdrejt në kompjuterin tënd, si alternativë ndaj shërbimeve online si ChatGPT — pa internet, me kontroll të plotë mbi cilësimet teknike. Një nga cilësimet më interesante për t'u eksperimentuar është pikërisht madhësia e Context Window (Dritarja e Kontekstit)Sasia e tokenëve që një model gjuhësor mund t'i shohë dhe përpunojë njëkohësisht brenda një bashkëbisedimi.: LM Studio të lejon ta zvogëlosh ose ta rrisësh dorazi, dhe ta shohësh në kohë reale sa "e mbushur" është dritarja teksa bisedon. Kjo e bën LM Studio një mjet të shkëlqyer eksperimentimi — mund të provosh vetë çfarë ndodh kur konteksti mbushet plotësisht, dhe vetë modeli fillon të "harrojë". Vetëm një këshillë paraprake: një dritare kontekstit shumë e madhe kërkon shumë performancë nga karta grafike (GPU), prandaj eksperimentimi duhet bërë me kujdes e në hapa të vegjël.

1 Thelbi Kuiz i shpejtë

1. Çfarë është LM Studio, sipas artikullit?

2. Cili cilësim teknik theksohet si veçanërisht i rëndësishëm për eksperimentim në LM Studio, sipas artikullit?

3. Sipas artikullit, çfarë rreziku ekziston nëse e bën context window-in shumë të madh në LM Studio?

Përgjigju saktë të gjitha pyetjeve dhe kalo tek ndarja e radhës 2 Shpjegimi

Ushtro termat

Zgjidh një term për ta ushtruar, ose provo ushtrimin "Përputh çdo term me përkufizimin".

← Kthehu te të gjithë artikujt