Ollama 0.9.5: revoliucinė LLM programa, skirta MacOS su daugybe naujų funkcijų!

Ollama 0.9.5: revoliucinė LLM programa, skirta MacOS su daugybe naujų funkcijų!

Išleisdamas atnaujintą atvirojo kodo įrankio „Ollama“ 0.9.5 versiją, dirbtinio intelekto pasaulis atidarė naują skyrių. Nuo 2025 m. liepos 5 d. ši programinė įranga dabar pasiekiama vietiniam didelių kalbų modelių (LLM) valdymui. Kaip stadt-bremerhaven.de Pranešama, kad įrankis buvo iš esmės peržiūrėtas ir dabar pateikiamas kaip vietinė „MacOS“ programa, kuri suteikia pastebimų patobulinimų. Tai apima greitesnį paleidimo laiką ir sumažintus atminties poreikius.

Ypač įspūdingas yra „Electron“ perėjimas prie savosios „MacOS“ programos, dėl kurios diegimo dydis sumažėja maždaug 25 procentais. Taip pat verta paminėti naujas 0.9.5 versijos funkcijas: pavyzdžiui, dabar yra naujas nustatymų langas, skirtas dalytis kalbų modeliais tinkle. Tai leidžia pasiekti daug išteklių reikalaujančius LLM iš galingų kompiuterių, o kiti tinklo įrenginiai gali būti naudingi. Be to, dabar modelius galima išsaugoti išorinėse laikmenose arba alternatyviuose kataloguose.

Universalus naudojimas ir privalumai

„Ollama“ universalumas neapsiriboja tik „macOS“. Įrankis taip pat galimas „Windows“ ir „Linux“, todėl suteikia vieningą sąsają, skirtą LLM atsisiuntimui, tvarkymui ir paleidimui įvairiose operacinėse sistemose, pvz. markaicode.com akcentai. Vis daugiau vartotojų atranda LLM teikimo vietoje pranašumus. Tai reiškia, kad visas duomenų apdorojimas lieka jūsų kompiuteryje, o tai užtikrina visišką privatumą. Be to, API naudojimas nekainuoja, o modelius taip pat galima valdyti neprisijungus.

Techninės įrangos reikalavimai yra nedideli, todėl net vartotojai, turintys senesnius žaidimų GPU ar nešiojamuosius kompiuterius, gali leistis į LLM pasaulį. Norint optimaliai išnaudoti našumą, rekomenduojamas modernus kelių branduolių procesorius ir bent 8 GB RAM. Palaikomų modelių sąraše yra „Llama 2“, „Code Llama“, „Mistral“ ir „Vicuna“, todėl beveik kiekvienai programai galima rasti tinkamą modelį.

Atvirasis šaltinis kaip žaidimų keitiklis

Kiti atvirojo kodo LLM pranašumai yra nepriklausomybė nuo išorinių tiekėjų. fraunhofer.de atkreipia dėmesį į tai, kad jautrūs duomenys lieka jūsų tinkle, o eksploatavimo išlaidos yra skaidrios ir nuspėjamos. Šios pažangios technologijos padarė didelę pažangą 2023 m., paskatindamos domėtis generatyviais AI įrankiais. Ypač iš OpenAI atsiradus ChatGPT, LLM paklausa pasirodė esanti didžiulė.

Galimybė pritaikyti modelius konkretiems naudojimo atvejams taikant tobulą derinimą atveria naujus horizontus įmonėms ir kūrėjams. Be to, nuolat pridedami nauji našumo optimizavimo metodai, leidžiantys pasiekti priimtiną greitį net ir naudojant mažiau galingą aparatinę įrangą.

Su nauja Ollama versija daugeliui vartotojų įėjimas į dirbtinio intelekto pasaulį tampa dar lengvesnis. Vis dar įdomu pamatyti, kaip technologija toliau vystysis ir kokias naujas galimybes ji sukurs. Lengvo naudojimo ir galingų funkcijų derinys paverčia Ollama viliojančiu pasiūlymu visiems, dirbantiems dirbtinio intelekto srityje.