Kā iesācējiem iestatīt vietējo vietējoGPT operētājsistēmā Windows

Ja nevēlaties maksāt par LLM vai vēlaties saglabāt savus datus, jūs vajadzētu iestatīt vietējoGPT Apvidū Tas ļauj jums pilnībā kontrolēt, kā AI darbojas un apstrādā datus. Tas arī nodrošina privātumu, jo visi dati paliek jūsu vietējā sistēmā, nevis tiek nosūtīti uz ārējiem serveriem.

Iestatiet vietējo GPT operētājsistēmā Windows PC

LocalGPT ir atvērtā koda rīks, kuru iedvesmojusi konfidenciālais , paredzēts, lai palaistu lielas valodas modeļus (LLMS) uz vietas lietotāju ierīcēm privātai lietošanai. Atšķirībā no PrivategPpt, kas balstās tikai uz CPU izpildi, LocalGPT atbalsta aparatūras paātrinājumu, izmantojot GPU, lai iegūtu labāku veiktspēju un samazinātu latentumu. GPT-4All modeļa un LlamaEmbeddings, kas ir diezgan dūšīgs, vietējaisGPT izmanto Vicuna-7b LLM un instruktordembeddings. Tas darbojas ar tādiem modeļiem kā Blenderbot un Wizardlm-7b, ļaujot mums apmainīt modeļus, pamatojoties uz īpašām vajadzībām. Viss cauruļvads darbojas uz vietas, nodrošinot datu privātumu, vienlaikus nodrošinot uzlabotas NLP iespējas bez ārējas API paļaušanās, padarot to par perfektu kandidātu vietēji pārvaldītam AI režīmam.

Šajā rokasgrāmatā mēs uzstādīsim vietējo GPT operētājsistēmā Windows. Jūs varat izpildīt zemāk minētās darbības.

1. Lejupielādējiet un instalējiet miniconda
2. Instalējiet vietējo krātuvi
3. Instalējiet atkarības
4. Vadiet vietējo rašanos

Ļaujiet mums tos sīkāk apspriest.

1] Lejupielādējiet un instalējiet miniconda

Miniconda ir viegls CONDA paketes pārvaldnieka sadalījums, kas paredzēts, lai ātri izveidotu python vidi. Tas nodrošina tikai pamatus, ļaujot lietotājiem pielāgot savas instalācijas, pēc vajadzības pievienojot noteiktas paketes. Lai to lejupielādētu, dodieties uz vietni anaconda.com, ritiniet uz leju, dodieties uz to Miniconda uzstādītāji,  un pēc tam lejupielādējiet to operētājsistēmai Windows, jo šī rokasgrāmata ir paredzēta Windows.

Tagad palaidiet instalētāju un sekojiet ekrāna instrukcijām, lai pabeigtu instalēšanas procesu, tomēr pārliecinieties, ka, atrodoties uz  Papildu instalēšanas opcijas,  Atzīmējiet visas rūtiņas un, visbeidzot, aizpildiet instalēšanu.

Lai pārbaudītu, vai tas ir instalēts vai nē, meklējiet  “Anaconda uzvedne”  Izvēlnē Start un atveriet CLI. Tagad jūs varat palaist KONDA saraksts Tikai, lai apstiprinātu, ka tas ir instalēts.

kā izvēlēties vairākus failus

2] Instalējiet vietējoGPT repozitoriju

Tagad mums ir jāinstalē vietējaisGPT repozitorijs, kuru GitHub rīko ātrs inženieris. Mēs to varam dabūt no turienes. Lai to izdarītu, dodieties uz github.com Apvidū Jūs varat iziet cauri lapai, lai uzzinātu vairāk par vietējoGPT un to instalētu, jums jānoklikšķina uz  Kods> Lejupielādējiet ZIP.  Kad zip fails ir lejupielādēts, dodieties uz  Lejupielādēt  Mape, ar peles labo pogu noklikšķiniet uz ZIP faila, atlasiet Ekstrakt, iestatiet vietu, kur vēlaties iegūt failu un aizpildīt procesu. Atveriet ekstrahēto mapi, iekšpusē, jūs to saucat par mapi VietējaisGpt-Main. Tikai vienkāršības labad mēs ielīmējam mapi uz darbvirsmas un to nosaucam 'LGPT'.

3] Instalējiet atkarības

Tagad mums jāizveido virtuālā vide, kurā mēs gatavojamies instalēt visas atkarības. Lai to izdarītu, atveriet  “Anaconda uzvedne”  no izvēlnes Sākt un palaidiet šādas komandas.

PIEZĪME: nomainiet mainīgo “vide_nosaukums” ar jebkuru jūsu izvēlēto vārdu.

Ja tas lūdz lejupielādēt jebkuru paketi, lūdzu, dodiet piekrišanu un rīkojieties.

Tagad mums jāinstalē pakotne, kuru mēs lejupielādējām iepriekš. Lai to izdarītu, vispirms jāatrodas direktorijā, izmantojot šādas komandas.

cd LGPT

Tā vietā, lai instalētu visus komponentus pa vienam, mēs varam izmantot šo komandu, lai tos visus instalētu uzreiz.

pip install -r requirements.txt

Jūs varat saskarties ar divām kļūdām.

• Importēt lāpu modulenotfounderror:  Izkropļot pip instalēt Torch Torchvision Torchaudio  un pēc tam palaidiet iepriekšminēto komandu.
• Nepieciešams Microsoft C ++:  Noklikšķiniet uz minētā URL un lejupielādējiet Visual Studio, noklikšķinot uz  Lejupielādējiet būvēšanas rīkus,  Kad Visual Studio ir atvērta, jums jāiet cauri jums nav rīki, un tie tos lejupielādē.

Pēc problēmas risināšanas vēlreiz palaidiet instalētāja komandu un pēc instalēšanas pārejiet uz nākamo soli.

mrt.exe

4] vadiet vietējoGPT

Pirmkārt, jums ir jāveic python uzņemšana, kas nozīmē datu importēšanu no avota dokumentiem, dokumentu apstrādes apstrāde un to iegulumu glabāšana vektora datu bāzē (Chroma DB). Lai to izdarītu, jums jāizpilda šāda komanda.

Mēs iesakām sekot līdzi CPU lietošanai, izmantojot uzdevumu pārvaldnieku.

Tagad, a cuscess constant.py fails vietējāGPT direktorijā. Atspējojiet LLAMA 3 modeli, pievienojot komentāru tā līnijai, un aktivizējiet LLAMA 2 modeli (7b parametri), noņemot komentāru no tā līnijas.

Kad tas ir izdarīts, jums ir jāuzsver vietējaisGPT, izmantojot šo komandu.

python run_local_gpt.py

Ja jūs saskaraties ar kļūdu, kas to norāda izsaukt  trūkst, skriet  PIP instalēt zvanu-cpp-python.

Cerams, ka ar šīs rokasgrāmatas palīdzību jūs varēsit palaist vietējos datorā uz vietas.

Lasīt: Kā pētniecībai izmantot apjukumu AI

Kā instalēt privatategpt operētājsistēmā Windows?

Lai instalētu Privategpt operētājsistēmā Windows, vispirms instalējiet Python un pakešu pārvaldnieku, piemēram, CONDA. Pēc tam klonējiet Privategpt repozitoriju un izveidojiet virtuālo vidi. Pēc tam jums ir jāinstalē atkarības, izmantojot dzeju vai PIP. Lejupielādējiet saderīgu valodas modeli. Visbeidzot, jums ir jākonfigurē vides mainīgie, uzņemt dokumentus un jāuzsāk lietojumprogramma, lai sāktu lietot datus uz vietas.

Lasīt:  Kā palaist DeepSeek lokāli operētājsistēmā Windows 11

Kā iestatīt WSL operētājsistēmā Windows?

Līdz Iestatiet WSL operētājsistēmā Windows , atvērta PowerShell kā administratoram un palaižot WSL –instalēt Apvidū Tas ļauj WSL, instalē Linux kodolu un iestata WSL 2 kā noklusējumu. Restartējiet datoru, pēc tam instalēšanai izvēlieties Linux izplatīšanu. Palaidiet izplatīšanu, iestatiet lietotājvārdu un paroli, un jūs esat gatavs izmantot Linux operētājsistēmā Windows.

Arī lasīt:  Palaidiet chatgpt klonu lokāli datorā, izmantojot GPT4all Apvidū