Mesterséges intelligencia
Felhő nélkül, Mac Studiókon fut a Meta új, 816 milliárd paraméteres modellje – az Apple-lel együttműködésben
A Meta és az Apple közös bejelentése szerint a Meta legújabb nyílt modellje, a Muse Spark Open két-négy összekapcsolt Mac Studión, felhő nélkül is futtatható. A megoldás adatvédelmi előnyt hoz, de egy gép ára is legalább 10 799 dollár.
2 perc olvasás
A Meta és az Apple október 15-én AI-együttműködést jelentett be: a fejlesztők a Meta legújabb nyílt modelljét, a 816 milliárd paraméteres Muse Spark Opent az Apple csúcskategóriás asztali gépein is futtathatják. A modellhez két-négy összekapcsolt Mac Studio kell, felhőkörnyezet nélkül.
Miért számít a helyi futtatás?
A nagy nyelvi modelleket ma jellemzően felhőben futtatják, ami azt jelenti, hogy a feldolgozott adatok elhagyják a felhasználó gépét. A helyi futtatás adatvédelmi előnyt jelent, például érzékeny vállalati, egészségügyi vagy jogi dokumentumoknál, és hosszabb távon költségmegtakarítást is hozhat a folyamatos felhőhasználathoz képest.
Az ár viszont magas
Egy M5 Ultra chippel és 256 GB memóriával szerelt Mac Studio legalább 10 799 dollárba kerül, az 512 GB-os változat októberben érkezik, és a modellhez több ilyen gépre van szükség. Ez tehát egyelőre fejlesztőknek és nagyvállalatoknak szóló megoldás, nem az otthoni felhasználóknak.
Szokatlan szövetség
Az Apple és a Meta évekig kerülte a nyilvános együttműködést. A CNBC szerint az AI-verseny átrajzolja a Szilícium-völgy szövetségi rendszereit: az Apple saját Siri-je elmarad a vezető laborok chatbotjaitól, a Meta nyílt modelljei pedig az Apple hardverén új közönséget érhetnek el. Az együttműködés az OpenAI és az Anthropic felhőalapú modelljeinek is kihívást jelenthet. Az Apple élén a múlt hónapban John Ternus, a cég korábbi hardvermérnöke váltotta Tim Cookot.
Jelen írás kizárólag tájékoztatási célt szolgál. A cikkben megjelenő információk nyilvánosak és mindenki számára elérhető adatok alapján kerültek felhasználásra.
