Gemma 4 na własnym sprzęcie: od wyboru wariantu do pierwszej aplikacji

Własny model zaczyna się od wyboru wersji

Chcecie uruchomić model u siebie i zobaczyć, co dzieje się poza usługą dostawcy? Gemma 4 jest rodziną modeli z otwartymi wagami. To udostępniane przez Google pliki parametrów modelu, z których można korzystać przy budowaniu aplikacji. Dokumentacja wymienia E2B, E4B, 12B, 31B i 26B A4B. W rejestrze wydań 12B Unified ma datę 3 czerwca 2026 roku.

Własny sprzęt pozwala zaplanować swój sposób przetwarzania danych i poznać obsługę modelu od środka. Zanim pobierzecie wersję, sprawdźcie jej format, dokumentację oraz wymagania narzędzia, w którym ma działać. Sama nazwa wariantu nie zastąpi tego kroku.

Na początek skrzynka z fikcyjnymi zgłoszeniami

Proponujemy mały projekt: porządkowanie zgłoszeń pomocy technicznej. Model przypisuje wiadomość do kategorii i krótko wyjaśnia wybór. Dodajcie też „do sprawdzenia”, żeby nie wymuszać zgadywania, gdy opis niewiele mówi o problemie.

Oznaczcie ręcznie niewielki zbiór przykładów, a część odłóżcie do końcowej oceny. Inaczej łatwo dopracować instrukcję tylko pod wiadomości, których odpowiedzi już znamy. Gdy model myli płatności ze zwrotami, zajrzyjcie do definicji kategorii. Gdy gubi się w długich zgłoszeniach — sprawdźcie, czy dostał pełną treść.

Efekt łatwo pokazać przyszłemu użytkownikowi: wiadomość ląduje we właściwej kategorii albo trafia do osoby, która ją obejrzy. W demonstracji jest miejsce na udane przypisania i przypadki wymagające pomocy.

Kto zajmie się usługą po uruchomieniu

Gdy model już odpowiada, zanotujcie zużycie pamięci, czas do pierwszej odpowiedzi i zachowanie przy kilku równoczesnych zadaniach. Rozmowa na pustej maszynie to inna sytuacja niż cały zespół korzystający z aplikacji naraz.

Do rachunku dopiszcie aktualizacje, restart po awarii i przeglądanie logów. Przy własnej usłudze te obowiązki zostają u was, nawet gdy znika opłata za każde wywołanie zewnętrznego API.

Zachowajcie identyfikator modelu, ustawienia i zestaw kontrolny. Przy następnym podejściu będzie do czego porównać wynik. Gdy podstawowy przypadek działa na ustalonym poziomie, można dokładać interfejs i kolejne zadania.