Meta zaprezentowała Muse Glimmer, nowy model sztucznej inteligencji stworzony z myślą o agentach działających lokalnie na urządzeniu użytkownika. Model ma 30 miliardów parametrów, obsługuje tekst i obrazy, potrafi korzystać z narzędzi i wykonywać wieloetapowe zadania bez konieczności ciągłego łączenia się z chmurą.
Najciekawsze jest jednak to, gdzie Muse Glimmer ma działać. Meta zoptymalizowała model tak, aby można było uruchomić go na komputerze Mac lub PC wyposażonym w pojedynczy konsumencki układ graficzny. Nie oznacza to, że ruszy płynnie na każdym tanim notebooku, ale pokazuje wyraźny kierunek rozwoju AI — zaawansowane modele agentowe coraz częściej mają działać bezpośrednio na komputerach użytkowników.
Muse Glimmer to 30-miliardowy model AI działający lokalnie
Muse Glimmer jest kolejnym modelem opracowanym przez Meta Superintelligence Labs. Firma udostępniła jego wagi na licencji Apache 2.0, dzięki czemu deweloperzy mogą pobierać model, uruchamiać go lokalnie i dostosowywać do własnych zastosowań. Meta określa go jako model zoptymalizowany przede wszystkim pod „always-on local agent workflows”, czyli agentów AI pracujących stale bezpośrednio na urządzeniu użytkownika.
To istotna różnica względem usług takich jak ChatGPT, Gemini czy Meta AI, w których większość obliczeń odbywa się na zewnętrznych serwerach. Lokalny model może pracować również bez dostępu do internetu, a dane wykorzystywane podczas wykonywania zadania nie muszą za każdym razem opuszczać komputera. Ma to szczególne znaczenie w przypadku agentów otrzymujących dostęp do prywatnych dokumentów, wiadomości, kalendarza czy lokalnych plików.
Meta wskazuje kilka zastosowań Muse Glimmer. Model może obsługiwać lokalnych agentów AI, wykonywać wywołania funkcji i korzystać z zewnętrznych narzędzi, pomagać w programowaniu oraz służyć do oceny odpowiedzi innych modeli. Potrafi także realizować dłuższe sekwencje działań, a jeśli wykonanie narzędzia zakończy się błędem, został wytrenowany tak, aby zdiagnozować problem i spróbować ponownie zamiast od razu przerywać całe zadanie.
AI na komputerze bez wysyłania wszystkiego do chmury
Jednym z najważniejszych założeń Muse Glimmer jest możliwość wykonywania zaawansowanych zadań lokalnie. Meta zwraca uwagę, że agent zarządzający kalendarzem, przygotowujący wiadomości, organizujący dokumenty lub uczący się sposobu pracy użytkownika potrzebuje dostępu do dużej ilości prywatnego kontekstu. Uruchomienie takiego systemu bezpośrednio na komputerze może ograniczyć konieczność przesyłania tych informacji do infrastruktury chmurowej.
Model obsługuje przy tym nie tylko tekst. Muse Glimmer otrzymał osobny moduł percepcji pozwalający analizować obrazy przeplatane z treścią tekstową. Dzięki temu agent może interpretować między innymi zrzuty ekranu, wykresy i dokumenty, a następnie wykorzystywać zawarte w nich informacje podczas wykonywania kolejnych czynności. Model został również wytrenowany na danych obejmujących ponad 100 języków.
Meta przygotowała go z myślą o dłuższych, wieloetapowych zadaniach. Muse Glimmer ma utrzymywać plan działania przez kolejne etapy, korzystać z różnych narzędzi i wykonywać precyzyjne wywołania funkcji. Obsługuje również różne poziomy intensywności rozumowania, dzięki czemu deweloper może wybrać kompromis pomiędzy szybkością działania a jakością odpowiedzi. Firma podkreśla, że właśnie takie możliwości są niezbędne, jeśli lokalna AI ma przestać być tylko chatbotem i zacząć samodzielnie realizować konkretne zadania.
Jak Meta zmieściła 30 mld parametrów na komputerze?
Pełna wersja 30-miliardowego modelu wymagałaby ponad 55 GB pamięci, co praktycznie wykluczałoby wygodne uruchamianie Muse Glimmer na typowym sprzęcie konsumenckim. Meta zastosowała więc kwantyzację, ograniczając precyzję wag modelu do około 4 bitów. W efekcie sam model językowy udało się zmniejszyć do mniej niż 20 GB.
Pozostawiona pamięć może zostać wykorzystana między innymi na kontekst roboczy modelu, komponent analizujący obrazy oraz dodatkowy model przyspieszający generowanie odpowiedzi. Meta projektowała Muse Glimmer tak, aby cały zestaw mieścił się w środowisku dysponującym około 24 lub 32 GB pamięci. To właśnie dlatego określenie „działa na laptopie” wymaga pewnego doprecyzowania — chodzi przede wszystkim o wydajniejsze komputery konsumenckie, a nie każdy podstawowy notebook dostępny na rynku.
Firma testowała lokalne działanie modelu między innymi na MacBookach z układami M4 Max i M5 Max oraz komputerze wyposażonym w kartę GeForce RTX 5090. Zastosowana technika speculative decoding pozwala niewielkiemu pomocniczemu modelowi przewidywać większe fragmenty odpowiedzi, które następnie są weryfikowane przez główny model. Według testów Meta rozwiązanie przyspiesza generowanie nawet 3,1 raza na RTX 5090, 1,8 raza na M5 Max i 1,5 raza na M4 Max.
Muse Glimmer ma być modelem dla lokalnych agentów AI
Meta nie projektowała Muse Glimmer jako kolejnego uniwersalnego chatbota konkurującego wyłącznie jakością odpowiedzi z największymi modelami działającymi w chmurze. Najważniejszym zastosowaniem mają być autonomiczne systemy wykonujące zadania na komputerze użytkownika. Model był testowany między innymi pod kątem wyszukiwania informacji, korzystania z narzędzi, programowania i wykonywania złożonych poleceń wymagających wielu kolejnych kroków.
W testach Meta porównywała Muse Glimmer między innymi z modelami Gemma4-31B oraz Qwen3.6-27B. Firma deklaruje, że nowy model osiąga mocne wyniki jak na swoją klasę rozmiarową w szeregu benchmarków dotyczących agentów, programowania, rozumowania i zadań multimodalnych. Wyniki te pochodzą jednak z ewaluacji przedstawionej przez samą Meta i dopiero niezależne testy pokażą, jak Muse Glimmer sprawdzi się w rzeczywistych zastosowaniach.
Model jest już dostępny do pobrania z Hugging Face. Meta zapowiada również integrację z popularnymi narzędziami do lokalnego uruchamiania modeli AI, w tym Ollama, LM Studio i Unsloth, a także frameworkami llama.cpp, ExecuTorch oraz MLX. Firma współpracuje ponadto z AMD, Arm, Dellem, Intelem i NVIDIĄ nad optymalizacją działania modelu na różnych urządzeniach.
Lokalna AI może być kolejnym dużym etapem rozwoju agentów
Muse Glimmer wpisuje się w coraz wyraźniejszy trend przenoszenia części możliwości generatywnej sztucznej inteligencji z centrów danych bezpośrednio na urządzenia użytkowników. W przypadku prostych modeli takie rozwiązania istnieją już od dawna, jednak uruchamianie wielomiliardowych modeli zdolnych do wykonywania złożonych zadań agentowych nadal wymagało zazwyczaj mocnego sprzętu lub infrastruktury serwerowej.
Meta próbuje zmniejszyć tę barierę. Muse Glimmer nadal potrzebuje dużej ilości pamięci i odpowiednio wydajnego komputera, ale możliwość uruchomienia 30-miliardowego modelu agentowego na pojedynczym urządzeniu konsumenckim jest istotnym krokiem w kierunku bardziej niezależnej AI działającej lokalnie.
Jeśli ten kierunek będzie się rozwijał, przyszli asystenci AI mogą działać stale w tle na laptopie, analizować lokalne dokumenty, pomagać w organizacji pracy i wykonywać zadania bez konieczności wysyłania każdej informacji do chmury. Muse Glimmer pokazuje, że Meta chce uczestniczyć właśnie w takim wyścigu — nie tylko o największy model AI, ale również o model, który można realnie uruchomić na własnym komputerze.
Źródło: Meta AI Research
Dziękujemy za przeczytanie artykułu na Techoteka.pl.
Publikujemy codziennie informacje o sztucznej inteligencji, nowych technologiach, IT oraz rozwoju agentów AI.
Obserwuj nas na Facebooku, aby nie przegapić kolejnych artykułów.
