Što se dogodilo

Apple i Meta spojili snage novi AI model radi bez clouda, samo na dva Maca

Kristijan Benić · · 3 minute čitanja

Slika je AI avatar Kristijanova lika.

Apple i Meta spojili snage  novi AI model radi bez clouda, samo na dva Maca

Zamislite firmu koja čuva osjetljive podatke klijenata, pa ne želi ništa slati na tuđe servere u Americi, ali i dalje želi moćan AI model za programiranje i automatizaciju. Do sada je takva firma birala između slabijeg modela koji može sama pokretati i jačeg koji mora ići kroz cloud. Upravo tu granicu je 15. listopada pomaknula neobična suradnja Mete i Applea, dvije tvrtke koje su se godinama izbjegavale.

Meta je objavila Muse Spark Open, model otvorenih težina s 816 milijardi parametara, od čega je u svakom trenutku aktivno 42 milijarde, uz prozor konteksta od milijun tokena. Prema Metinom vlastitom opisu, riječ je o najsposobnijem američkom modelu otvorenih težina do danas, usmjerenom prije svega na programiranje i agentske zadatke, gdje model sam izvršava više povezanih koraka. Ta je tvrdnja Metina, ne neovisno potvrđena, no sama veličina i dostupnost modela potvrđeni su kroz više tehnoloških portala, od MacRumorsa do Slashdota.

Ono što ovu priču izdvaja od uobičajenih najava novih modela je hardver. Apple i Meta su zajedno pokazali da se cijeli model, uz Appleov MLX okvir, može pokrenuti lokalno na dva Mac Studija s M5 Ultra čipom i 512 gigabajta memorije svaki, bez ijednog poziva prema cloud serveru. Jedna kvaka, takav Mac Studio s 512 GB memorije Apple još nije objavio, stiže tek kasnije ovog mjeseca, pa model danas formalno ne možete pokrenuti kod kuće. Druga kvaka, cijena. Prema jednoj procjeni, kompletna oprema za ovakav postav košta više od 40.000 dolara, što ovo čini alatom za firme i razvojne timove, ne za pojedinca koji traži jeftiniju alternativu ChatGPT-u.

Ovakav tekst svaki dan na mail, uz besplatnu knjigu

Besplatno, bez kartice. Uz knjigu stižu tečaj i promptovi u istom mailu.

Zašto bi vam, kao malom poduzetniku ili zaposleniku u Hrvatskoj, ovo trebalo biti važno kad očito ne možete sutra kupiti ovaj postav? Zato što pokazuje smjer u kojem cijela industrija ide. Modeli otvorenih težina, oni koje možete preuzeti i pokretati sami, sve su bliže najjačim zatvorenim modelima kao što su GPT ili Claude, a sposobnost da AI radi lokalno, bez slanja podataka ikome, prestaje biti rezervirana samo za velike korporacije s vlastitim podatkovnim centrima. Za firme koje rade s osjetljivim podacima klijenata, ugovorima, zdravstvenom ili financijskom dokumentacijom, i koje zbog GDPR-a ili interne politike ne žele slati te podatke na tuđe servere, ovo je prvi konkretan signal da lokalna, privatna alternativa postaje stvarna opcija, a ne samo teorija za IT konferencije.

Treba reći i jasnu granicu, Meta i Apple suradnju najavljuju kao prvi korak, ne kao gotov proizvod za svakoga. Izvori se razilaze i u detaljima, neki govore o dva povezana Mac Studija, drugi o četiri, pa je dobro pričekati službenu Appleovu specifikaciju prije nego se bilo tko odluči na kupnju.

Ako u firmi imate IT osobu ili vanjskog partnera koji vam postavlja AI alate, a brinete oko toga gdje vam završe podaci klijenata, ovo je dobar trenutak da ih pitate prate li ovakve najave i imaju li plan za lokalni model kao alternativu slanju podataka u tuđi cloud. Za većinu nas to danas ostaje vijest za pratiti, ne alat za koristiti, ali vrijedi znati da opcija dolazi.

AI više ne mora živjeti samo u tuđem cloudu, uskoro će mu, za pravu cijenu, dovoljan biti i vlastiti stol.

Svi tekstovi, ukupno 77

Uz upis

Knjiga „Test u minuti“ na mail, vijesti po želji

Upiši mail i dobivaš cijelu knjigu, besplatni tečaj „AI osnove“ i 25 gotovih promptova. Kvačica ispod dodaje i dnevne AI vijesti.

Besplatno, bez kartice. Uz knjigu stižu tečaj i promptovi u istom mailu.