Omacom Foundation bit će glavni sponzor rada 0xSero na lokalnoj umjetnoj inteligenciji

Omacom Foundation postaje glavni sponzor rada 0xSero na lokalnoj umjetnoj inteligenciji za sljedeće tri godine, kroz njegovu tvrtku Sybil Solutions!

Surađivat ćemo kako bi lokalni modeli radili prekrasno odmah iz kutije na Omarchyju. Odabir modela koji odgovara tvom računalu, podešavanje kako bi se hardver najbolje iskoristio i povezivanje s tvojim agentima trebali bi biti sjajno prvo iskustvo. Danas još uvijek ima previše domaće zadaće između kupnje snažnog računala i stavljanja njegove inteligencije u pogon. Želimo zatvoriti taj jaz.

Sero već radi upravo na tim problemima. Njegov Local AI Registry objedinjuje konfiguracije modela, recepte specifične za hardver i mjerenja performansi. To je upravo ona vrsta praktičnog znanja koju trebamo pretvoriti u dobre zadane postavke. Ne bi trebao morati postati inženjer za inferenciju samo da bi korisni lokalni model proradio na vlastitom računalu.

A tvoje vlastito računalo ne mora sav posao obaviti samo. Također želimo olakšati povezivanje hardvera koji posjeduješ u mrežu inteligencije. Tvoj laptop, snažno stolno računalo u uredu, stroj spremljen negdje kod kuće. Pusti da se tvoji agenti oslanjaju na računala koja su ti dostupna, a da pritom prvo ne moraš upravljati malim podatkovnim centrom.

Ovo je velik dio onoga kako ja vidim ispunjenje obećanja agentskog OS-a. S hardverom poput NVIDIA N1x i Alibabinog nadolazećeg Qwen Booka, krećemo se prema svijetu u kojem su snažna računala s lokalnom umjetnom inteligencijom obična osobna računala. Operativni sustav trebao bi tu snagu učiniti dostupnom od trenutka kada ga počneš koristiti.

Mislim da smo blizu tome da svi kod kuće imaju pristup solidnoj inteligenciji. Modelima koji ti mogu pomoći pisati kod, raditi s tvojim dokumentima i obavljati korisne zadatke na hardveru koji kontroliraš. Sjajna alternativa frontier modelima i inteligenciji temeljenoj na pretplati za sve više posla koji ljudi zapravo obavljaju.

Volim ono što frontier modeli mogu, i Omarchy će ih i dalje činiti jednostavnima za korištenje. Ali također želim imati izbor pokretati inteligenciju koja ne ovisi o mjesečnoj pretplati niti o slanju mog rada na tuđe poslužitelje. Mogućnost da kupiš računalo i nastaviš ga koristiti jedna je od sjajnih stvari osobnog računalstva. To bi se trebalo odnositi i na agente.

Podrška Seri tijekom tri godine daje nam vremena da radimo na cjelokupnom iskustvu: modelima, podešavanju, vezama između strojeva i zadanim postavkama koje sve to čine pristupačnim. Uzbuđen sam što ću vidjeti koliko to zajedno možemo poboljšati.

Hvala našim pokroviteljima što su omogućili ovo sponzorstvo. Njihova nam podrška omogućuje da programerima damo vrijeme i resurse za rad na budućnosti kakvu želimo za Linux. Zahvalni smo im na podršci.

Stavimo više inteligencije u ruke ljudi koji posjeduju računala!