„Llama 3“ yra naujausias „Meta“ didelės kalbos modelis. Ją galite naudoti įvairiems tikslams, pvz., spręsti savo užklausas, gauti pagalbos atliekant mokyklos namų darbus ir projektus ir t. t. „Llama 3“ įdiegimas „Windows 11“ įrenginyje vietoje padės ja naudotis bet kada, net ir neturint prieigos prie interneto. Šis straipsnis jums parodo kaip įdiegti „Llama 3“ kompiuteryje, kuriame veikia „Windows 11“. .
Kaip įdiegti „Llama 3“ kompiuteryje, kuriame veikia „Windows 11“.
Norint įdiegti „Llama 3“ kompiuteryje su „Windows 11“ per Python, reikia techninių įgūdžių ir žinių. Tačiau kai kurie alternatyvūs metodai leidžia vietoje įdiegti „Llama 3“ „Windows 11“ įrenginyje. Aš jums parodysiu šiuos metodus.
Norėdami įdiegti „Llama 3“ savo „Windows 11“ kompiuteryje, turite vykdyti kai kurias komandas komandų eilutėje. Tačiau tai leis naudoti tik jos komandinės eilutės versiją. Jei norite naudoti žiniatinklio vartotojo sąsają, turite imtis tolesnių veiksmų. Parodysiu abu šiuos metodus.
Įdiekite „Llama 3“ „Windows 11“ asmeniniame kompiuteryje per CMD
Norėdami įdiegti „Llama 3“ savo „Windows 11“ kompiuteryje, turite įdiegti „Ollama“ savo „Windows“ įrenginyje. To paties veiksmai yra tokie:
- Apsilankykite Ollama oficiali svetainė .
- Spustelėkite ant Atsisiųsti mygtuką ir tada pasirinkite Windows .
- Dabar spustelėkite Atsisiųskite „Windows“. mygtuką, kad išsaugotumėte exe failą savo kompiuteryje.
- Paleiskite exe failą, kad įdiegtumėte „Ollama“ savo kompiuteryje.
Kai „Ollama“ bus įdiegta jūsų įrenginyje, iš naujo paleiskite kompiuterį. Jis turėtų veikti fone. Jį galite pamatyti sistemos dėkle. Dabar „Ollama“ svetainėje spustelėkite parinktį Models. Pamatysite skirtingus jo modelius.
„Llama 3.1“ galima įsigyti su šiais trimis parametrais:
- 8B
- 70B
- 405B
Paskutinis parametras yra didžiausias ir akivaizdžiai negali būti paleistas žemos klasės kompiuteriuose. „Llama 3.2“ turi šiuos du parametrus:
- 1B
- 3B
Spustelėkite „Llama“ versiją, kurią norite įdiegti savo kompiuteryje. Pavyzdžiui, jei norite įdiegti Llama 3.2, spustelėkite Llama 3.2. Išskleidžiamajame meniu galite pasirinkti parametrą, kurį norite įdiegti. Po to nukopijuokite šalia esančią komandą ir įklijuokite ją į komandų eilutę.
Jūsų patogumui parašiau abi komandas Llama 3.2 modeliui. Norėdami įdiegti Llama 3.2 3B modelį, paleiskite šią komandą:
ollama run llama3.2:3b
Norėdami įdiegti Llama 3.2 1B modelį, naudokite šią komandą:
ollama run llama3.2:1b
Atidarykite komandų eilutę, įveskite bet kurią iš aukščiau paminėtų komandų (pagal jūsų reikalavimus) ir paspauskite Įeikite . Reikalingų failų atsisiuntimas užtruks šiek tiek laiko. Atsisiuntimo laikas taip pat priklausys nuo jūsų interneto ryšio greičio. Baigę pamatysite sėkmės pranešimą komandų eilutėje.
Dabar įveskite pranešimą, kad galėtumėte naudoti Llama 3.2 modelį. Jei norite įdiegti „Llama 3.1“ modelį, naudokite „Ollama“ svetainėje pateiktas komandas.
Kitą kartą paleisdami komandų eilutę naudokite tą pačią komandą, kad kompiuteryje paleistumėte Llama 3.1 arba 3.2.
„Llama 3“ diegimas per CMD turi vieną trūkumą. Tai neišsaugo jūsų pokalbių istorijos. Tačiau, jei įdiegsite jį vietiniame pagrindiniame kompiuteryje, jūsų pokalbių istorija bus išsaugota ir gausite geresnę vartotojo sąsają. Kitas metodas parodo, kaip tai padaryti.
Įdiekite „Llama 3“ žiniatinklio vartotojo sąsają sistemoje „Windows 11“.
„Llama 3“ naudojimas žiniatinklio naršyklėje suteikia geresnę vartotojo sąsają ir taip pat išsaugo pokalbių istoriją, palyginti su jos naudojimu CMD lange. Parodysiu, kaip įdiegti Llama 3 savo žiniatinklio naršyklėje.
Norėdami naudoti „Llama 3“ savo žiniatinklio naršyklėje, jūsų sistemoje turi būti įdiegtos „Llama 3“ per „Ollama“ ir „Docker“. Jei dar neįdiegėte „Llama 3“, įdiekite ją naudodami „Ollama“ (kaip paaiškinta aukščiau). Dabar atsisiųskite ir įdiekite „Docker“ iš jo oficiali svetainė .
Įdiegę „Docker“, paleiskite jį ir prisiregistruokite, kad sukurtumėte paskyrą. „Docker“ neveiks, kol neprisiregistruosite. Prisiregistravę prisijunkite prie savo paskyros Docker programoje. Sumažinkite Docker iki sistemos dėklo. „Docker“ ir „Ollama“ programos turėtų veikti fone. Priešingu atveju negalėsite naudoti „Llama 3“ savo žiniatinklio naršyklėje.
Dabar atidarykite komandų eilutę, nukopijuokite šią komandą ir įklijuokite ją į komandų eilutę:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Aukščiau pateikta komanda užtruks šiek tiek laiko, kol atsisiųsite reikiamus išteklius. Todėl turėkite šiek tiek kantrybės. Baigę komandą atidarykite „Docker“ ir pasirinkite Konteineriai skyrių iš kairės pusės. Pamatysite, kad konteineris sukuriamas automatiškai su prievadu 3000:8080.
Aptikta bendroji garso tvarkyklė
Spustelėkite prievadą 3000:8080. Tai atidarys naują skirtuką numatytojoje žiniatinklio naršyklėje. Dabar prisiregistruokite ir prisijunkite, kad galėtumėte naudoti „Llama 3“ savo žiniatinklio naršyklėje. Jei pamatysite adreso juostą, pamatysite Localhost: 3000 ten, o tai reiškia, kad „Llama 3“ yra jūsų kompiuteryje. Galite naudoti jį be interneto ryšio.
Išskleidžiamajame meniu pasirinkite savo lamos pokalbių modelį. Jei norite pridėti daugiau „Llama 3“ pokalbių modelių, turite jį įdiegti naudodami „Ollama“ naudodami reikiamas komandas. Po to modelis bus automatiškai pasiekiamas jūsų žiniatinklio naršyklėje.
Visa jūsų pokalbių istorija bus išsaugota ir pasiekiama kairėje pusėje. Kai norite išeiti, atsijunkite nuo sesijos žiniatinklio naršyklėje. Po to atidarykite „Docker“ programą ir spustelėkite Sustok mygtuką, kad sustabdytumėte „Docker“. Dabar galite uždaryti „Docker“.
Jei kitą kartą norite naudoti „Llama 3“ savo žiniatinklio naršyklėje, paleiskite „Ollama“ ir „Docker“, palaukite kelias minutes, tada spustelėkite prievadą „Docker“ konteineryje, kad atidarytumėte „localhost“ serverį savo žiniatinklio naršyklėje. Dabar prisijunkite prie savo paskyros ir pradėkite naudoti „Llama 3“.
Tikiuosi, kad tai padės.
Ar „Llama 3“ gali veikti „Windows“?
Priklausomai nuo jūsų kompiuterio aparatinės įrangos konfigūracijos, galite paleisti „Llama 3“ savo sistemoje. Jo 1B modelis yra lengviausias. Galite įdiegti ir paleisti jį savo sistemoje naudodami komandų eilutę.
Kiek RAM reikia „Llama 3“?
Lengviausias Llama 3 modelis yra Llama 3.2 1B. Jūsų sistemoje turėtų būti 16 GB RAM, kad veiktų Llama 3.2 1B modelis. Be to, jūsų sistemoje taip pat turėtų būti galingas GPU. Aukštesniems Llama 3 modeliams reikia daugiau sistemos išteklių.
Skaitykite toliau : Kaip naudotis Leonardo Phoenix AI .
