Kā instalēt LLaMA 3 datorā ar Windows 11?

Llama 3 ir Meta jaunākais lielo valodu modelis. Varat to izmantot dažādiem mērķiem, piemēram, vaicājumu risināšanai, palīdzības saņemšanai saistībā ar skolas mājasdarbiem un projektiem utt. Llama 3 izvietošana savā Windows 11 ierīcē palīdzēs to izmantot jebkurā laikā pat bez piekļuves internetam. Šis raksts jums parāda kā instalēt Llama 3 datorā ar operētājsistēmu Windows 11 .

Kā instalēt Llama 3 datorā ar operētājsistēmu Windows 11

Lai instalētu Llama 3 datorā ar Windows 11, izmantojot Python, ir nepieciešamas tehniskas prasmes un zināšanas. Tomēr dažas alternatīvas metodes ļauj lokāli izvietot Llama 3 savā Windows 11 ierīcē. Es jums parādīšu šīs metodes.

Lai instalētu Llama 3 savā Windows 11 datorā, komandu uzvednē ir jāizpilda dažas komandas. Tomēr tas ļaus jums izmantot tikai tās komandrindas versiju. Ja vēlaties izmantot tā tīmekļa lietotāja saskarni, jums jāveic papildu darbības. Es jums parādīšu abas šīs metodes.

Izvietojiet Llama 3 operētājsistēmā Windows 11, izmantojot CMD

Lai datorā ar operētājsistēmu Windows 11 izvietotu Llama 3, savā Windows datorā ir jāinstalē Ollama. Tādas pašas darbības ir šādas:

1. Apmeklējiet Ollama oficiālā vietne .
2. Noklikšķiniet uz Lejupielādēt pogu un pēc tam atlasiet Windows .
3. Tagad noklikšķiniet uz Lejupielādēt operētājsistēmai Windows pogu, lai saglabātu exe failu datorā.
4. Palaidiet exe failu, lai instalētu Ollama savā datorā.

Kad Ollama ir instalēta jūsu ierīcē, restartējiet datoru. Tam vajadzētu darboties fonā. To var redzēt sistēmas teknē. Tagad Ollama vietnē noklikšķiniet uz opcijas Modeļi. Jūs redzēsiet dažādus tā modeļus.

chkdsk nedarbosies

Llama 3.1 ir pieejams ar šādiem trim parametriem:

• 8B
• 70B
• 405B

Pēdējais ir lielākais parametrs, un to acīmredzami nevar palaist zemas klases datorā. Llama 3.2 ir šādi divi parametri:

• 1B
• 3B

Noklikšķiniet uz Llama versijas, kuru vēlaties instalēt savā datorā. Piemēram, ja vēlaties instalēt Llama 3.2, noklikšķiniet uz Llama 3.2. Nolaižamajā izvēlnē varat atlasīt parametru, kuru vēlaties instalēt. Pēc tam nokopējiet tai blakus esošo komandu un ielīmējiet to komandu uzvednē.

Jūsu ērtībai esmu uzrakstījis abas komandas Llama 3.2 modelim. Lai instalētu Llama 3.2 3B modeli, palaidiet šādu komandu:

ollama run llama3.2:3b

Lai instalētu Llama 3.2 1B modeli, izmantojiet šo komandu:

ollama run llama3.2:1b

Atveriet komandu uzvedni, ierakstiet jebkuru no iepriekš minētajām komandām (atbilstoši jūsu prasībām) un nospiediet Ievadiet . Nepieciešamo failu lejupielāde prasīs kādu laiku. Lejupielādes laiks būs atkarīgs arī no jūsu interneta savienojuma ātruma. Pēc pabeigšanas jūs redzēsit panākumus ziņojumu komandu uzvednē.

Tagad ierakstiet savu ziņojumu, lai izmantotu Llama 3.2 modeli. Ja vēlaties instalēt Llama 3.1 modeli, izmantojiet Ollama vietnē pieejamās komandas.

Nākamajā reizē, kad palaižat komandu uzvedni, izmantojiet to pašu komandu, lai datorā palaistu Llama 3.1 vai 3.2.

Llama 3 instalēšanai, izmantojot CMD, ir viens trūkums. Tas nesaglabā jūsu tērzēšanas vēsturi. Tomēr, ja izvietosit to vietējā resursdatorā, jūsu tērzēšanas vēsture tiks saglabāta un jūs iegūsit labāku lietotāja interfeisu. Nākamā metode parāda, kā to izdarīt.

Izvietojiet Llama 3 tīmekļa lietotāja interfeisu operētājsistēmā Windows 11

Lietojot Llama 3 tīmekļa pārlūkprogrammā, tiek nodrošināts labāks lietotāja interfeiss, kā arī tiek saglabāta tērzēšanas vēsture, salīdzinot ar tās lietošanu CMD logā. Es jums parādīšu, kā jūsu tīmekļa pārlūkprogrammā izvietot Llama 3.

Lai izmantotu Llama 3 savā tīmekļa pārlūkprogrammā, sistēmā ir jāinstalē Llama 3, izmantojot Ollama un Docker. Ja vēl neesat instalējis Llama 3, instalējiet to, izmantojot Ollama (kā paskaidrots iepriekš). Tagad lejupielādējiet un instalējiet Docker no tā oficiālā vietne .

paroli retrīvers

Pēc Docker instalēšanas palaidiet to un reģistrējieties, lai izveidotu kontu. Docker nedarbosies, kamēr neesat reģistrējies. Pēc reģistrēšanās pierakstieties savā kontā Docker lietotnē. Samaziniet Docker līdz sistēmas teknē. Docker un Ollama lietotnēm vajadzētu darboties fonā. Pretējā gadījumā jūs nevarat izmantot Llama 3 savā tīmekļa pārlūkprogrammā.

Tagad atveriet komandu uzvedni, nokopējiet šo komandu un ielīmējiet to komandu uzvednē:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Iepriekš minētā komanda prasīs zināmu laiku, lai lejupielādētu nepieciešamos resursus. Tāpēc esiet nedaudz pacietīgs. Pēc komandas pabeigšanas atveriet Docker un atlasiet Konteineri sadaļa no kreisās puses. Jūs redzēsit, ka konteiners tiek automātiski izveidots ar portu 3000:8080.

Noklikšķiniet uz porta 3000:8080. Tādējādi jūsu noklusējuma tīmekļa pārlūkprogrammā tiks atvērta jauna cilne. Tagad reģistrējieties un pierakstieties, lai izmantotu Llama 3 savā tīmekļa pārlūkprogrammā. Ja redzat adreses joslu, jūs redzēsit vietējais saimnieks: 3000 tur, kas nozīmē, ka Llama 3 tiek mitināts lokāli jūsu datorā. Varat to izmantot bez interneta savienojuma.

Nolaižamajā izvēlnē atlasiet savu lamu tērzēšanas modeli. Ja vēlaties pievienot citus Llama 3 tērzēšanas modeļus, tas ir jāinstalē, izmantojot Ollama, izmantojot nepieciešamās komandas. Pēc tam modelis automātiski būs pieejams jūsu tīmekļa pārlūkprogrammā.

Visa jūsu tērzēšanas vēsture tiks saglabāta un būs pieejama kreisajā pusē. Kad vēlaties iziet, izejiet no sesijas tīmekļa pārlūkprogrammā. Pēc tam atveriet lietotni Docker un noklikšķiniet uz Stop pogu, lai apturētu Docker. Tagad varat aizvērt Docker.

Ja nākamreiz vēlaties izmantot Llama 3 savā tīmekļa pārlūkprogrammā, palaidiet Ollama un Docker, uzgaidiet dažas minūtes un pēc tam noklikšķiniet uz porta Docker konteinerā, lai tīmekļa pārlūkprogrammā atvērtu lokālo resursdatora serveri. Tagad pierakstieties savā kontā un sāciet lietot Llama 3.

Es ceru, ka tas palīdz.

Vai Llama 3 var darboties operētājsistēmā Windows?

Atkarībā no datora aparatūras konfigurācijas varat palaist Llama 3 savā sistēmā. Tā 1B modelis ir vieglākais. Varat to instalēt un palaist savā sistēmā, izmantojot komandu uzvedni.

Cik daudz RAM ir nepieciešams Llama 3?

Vieglākais Llama 3 modelis ir Llama 3.2 1B. Jūsu sistēmai ir jābūt 16 GB RAM, lai darbinātu Llama 3.2 1B modeli. Papildus tam jūsu sistēmai vajadzētu būt arī lieljaudas GPU. Augstākiem Llama 3 modeļiem ir nepieciešams vairāk sistēmas resursu.

Lasiet tālāk : Kā lietot Leonardo Phoenix AI .