Meta on julkaissut uuden Muse Glimmer -tekoälymallin paikalliseen käyttöön. Mallia voidaan käyttää suoraan Macilla tai PC-tietokoneella ilman pilvipalvelua.
Meta Superintelligence Labsin kehittämä Muse Glimmer on avoimin mallipainoin julkaistu 30 miljardin parametrin tekoälymalli. Käytännössä tämä tarkoittaa, että käyttäjät voivat ladata mallin omalle tietokoneelleen ja hyödyntää sitä omiin käyttötarkoituksiinsa. Malli on suunniteltu erityisesti niin sanottuihin agenttitehtäviin. Se pystyy esimerkiksi suorittamaan monivaiheisia tehtäviä, käyttämään ulkopuolisia työkaluja ja seuraamaan pitkiä toimintoketjuja ilman käyttäjän jatkuvaa ohjeistusta.
Aiheeseen liittyvät julkaisut
Malli osaa käsitellä tekstin lisäksi kuvia. Sille voidaan siis antaa tarkasteltavaksi esimerkiksi kuvakaappauksia, kaavioita ja asiakirjoja. Muse Glimmer ymmärtää myös yli 100 kieltä, Meta kertoo tiedotteessaan.
Merkittävä ominaisuus on mahdollisuus käyttää Muse Glimmeriä paikallisesti omalla tietokoneella. Tällöin käyttäjän tietoja ei välttämättä tarvitse lähettää verkon kautta ulkopuoliselle palvelimelle, ja tekoälyä voidaan käyttää myös ilman jatkuvaa internet-yhteyttä.
Meta on pienentänyt Muse Glimmerin laskentatehovaatimuksia erilaisilla optimoinneilla. Tavallisesti malli tarvitsisi yli 55 gigatavua muistia, mutta kevennettynä pienemmällä tarkkuudella se vie alle 20 gigatavua. Tämän ansiosta sitä voidaan käyttää esimerkiksi 24 tai 32 gigatavun käyttömuistilla varustetuilla tietokoneilla.
Muse Glimmer on jo ladattavissa Hugging Face -alustalta. Meta valmistelee sille lisäksi tukea useisiin suosittuihin työkaluihin, joiden avulla tekoälymalleja voidaan käyttää paikallisesti Mac- ja muilla PC-tietokoneilla.