Przejdź do poradnika
AgentinosaurusPoradniki Otwórz przestrzeń roboczą
Przeglądaj przewodniki

Modele AI

Modele lokalne

Uruchom AI dla kamer na własnym komputerze: klatki zostają w Twoim obiekcie i nie ma opłat za tokeny.

Co robi model lokalny

Z modelem lokalnym Stacja analizuje klatki z kamer na tym samym komputerze, na którym działa. Klatki są maskowane i przygotowywane tak samo jak dla dostawców w chmurze, a odpowiada na nie model na miejscu. Nigdy nie są wysyłane do dostawcy AI w chmurze.

Przestrzeń robocza nadal otrzymuje odpowiedzi, więc dostajesz te same Wiadomości, incydenty, powiadomienia Push, webhooki i historię. Migawki jak zawsze zostają na Stacji.

Modele

LiquidAI d1-2B Q8 to niewielki model decyzyjny. Station analizuje 20-sekundową obserwację przy 2 FPS (40 klatek), korzystając z tych samych przetworzonych klatek co dostawcy chmurowi.

Klucz API nie jest potrzebny. Inne rodziny modeli lokalnych nie są dostępne.

Każda kamera otrzymuje wbudowany Event Needs attention wykrywający widoczne oznaki zagrożenia. Zapisuje incydenty i Wiadomości, a Push, e-mail, Webhooks i Zapier są domyślnie wyłączone. Włącz wybrane kanały lub odłącz Event w ustawieniach kamery. Twoje własne Eventy są oceniane niezależnie.

Stacja uruchamia tylko te konkretne, zweryfikowane pliki. Każde pobranie i każdy plik, który już masz, jest przed użyciem sprawdzany z opublikowaną sumą kontrolną SHA-256.

Czego potrzebuje Twój komputer

Stacji na komputerze z Windows (x64), macOS (Intel lub Apple Silicon) albo Linuksem (x64 lub ARM64). Aplikacje na Androida i iPhone'a korzystają z dostawców w chmurze.

Przewidź co najmniej 8 GB pamięci RAM. Akceleracja GPU może znacznie skrócić analizę; wydajność zależy od urządzenia, liczby kamer i analizowanych Eventów.

Model i plik obsługi obrazu zajmują łącznie około 2,05 GB. Dochodzi do tego środowisko uruchomieniowe, pamięć pobierania i miejsce na pliki tymczasowe. Konfiguracja pokazuje wymagane miejsce na dysku.

Konfiguracja pokazuje dostępne zasoby. Test wideo z 40 klatkami musi się powieść, zanim Station oznaczy model jako gotowy.

Szybkość i wydajność

W niedawnym teście Q8 na CUDA z dwoma Eventami mediana czasu decyzji wyniosła około 2,39 s. Starsze benchmarki na blogu oznaczone bfloat16 używały innych wag i nie potwierdzają wydajności ani skuteczności tej wersji Q8. Sprawdź obciążenie na własnych kamerach.

To, ile kamer obsłuży jeden komputer, zależy od karty graficznej, częstotliwości analizy każdej kamery i liczby obserwowanych Zdarzeń. Analiza przy ruchu wymaga znacznie mniej sprawdzeń niż analiza ciągła.

Koszty

Model lokalny nie generuje opłat u dostawcy AI: użycie tokenów jest nadal rejestrowane, w kwocie 0 USD. Plan Agentinosaurus i miejsca na kamery są rozliczane jak zwykle, a prąd i sprzęt komputera należą do Ciebie.

Prywatność i bezpieczeństwo

Pobieranie modeli zaczyna się dopiero po zezwoleniu na konfigurację lokalną na samej Stacji, z jej menu. Nasze serwery nie mogą samodzielnie rozpocząć pobierania ani uruchomić programu na Twoim komputerze.

Model działa tylko na Twoim komputerze, na prywatnym porcie lokalnym z kluczem zmienianym przy każdym uruchomieniu. Stacja nigdy nie przełącza się na dostawcę w chmurze: jeśli model nie może działać, kamera zgłasza problem.

Stacja szuka istniejących plików modeli w folderze Pobrane, LM Studio i pamięci podręcznej Hugging Face i zgłasza tylko, jaki model znalazła, nigdy folder.

Pytania i odpowiedzi

Czy przy modelu lokalnym klatki z kamer opuszczają mój komputer?

Nie w celu wykrywania. Klatki są analizowane na komputerze ze Stacją. Odpowiedzi, szczegóły incydentów i stan urządzenia nadal trafiają do przestrzeni roboczej. Czat z kamerą działa osobno i korzysta z OpenAI.

Czy mogę użyć innego modelu lub własnych plików?

Tylko obsługiwanych, zweryfikowanych plików modeli. Jeśli już je pobrano, np. w LM Studio, Stacja używa ich tam, gdzie są, po ich sprawdzeniu.

Co się stanie po ponownym uruchomieniu komputera?

Po starcie Stacja ponownie ładuje model w tle, więc kamery wznawiają pracę bez Twojego udziału.

Skonfiguruj model lokalny