Local AI · on-premise
Sztuczna inteligencja, która zostaje w firmie.
Uruchamiamy firmowych asystentów i wyszukiwanie w dokumentach na serwerze, który kontroluje Wasza organizacja. Model działa lokalnie: treść zapytań i plików nie jest wysyłana do API zewnętrznego dostawcy modelu.
- B2BFirmy i instytucje. Osób prywatnych nie obsługujemy.
- On-premModel i indeks dokumentów w infrastrukturze klienta.
- OpoleWorld Support Service Sp. z o.o., marka TELKOMP.
Jaki jest termin przeglądu agregatu?
Przegląd kwartalny: marzec, czerwiec, wrzesień i grudzień.
Procedura UTR-14, strona 2. Plik zostaje na serwerze.
Obwód danych
Pytanie i dokument zostają po Waszej stronie sieci.
Asystent może korzystać z poczty, CRM, Odoo, helpdesku i telefonii, ale odpowiedź liczy model uruchomiony u Was. Aktualizacje systemu, jeśli mają wychodzić do internetu, ustalamy osobno — bez dokładania treści zapytań do telemetrii.
Zakres
Od rozmowy o tym, co ma zostać w firmie, po serwer, integracje i szkolenie ludzi, którzy będą z tego korzystać.
- 01 Wdrożenia Projekt całego obwodu: model, dokumenty, dostępy i miejsce, w którym stoi serwer.
- 02 Asystenci Rozmowa o procedurach i bazie wiedzy, liczona na serwerze organizacji.
- 03 Dokumenty Pytanie po polsku, odpowiedź z procedury albo umowy, z odesłaniem do pliku.
- 04 Modele Wybór wag open source pod język, zadanie i sprzęt, który realnie postawicie.
- 05 Serwery GPU Dobór i dostawa serwera pod lokalny model: zasilanie, miejsce, hałas, dostęp.
- 06 Integracje Poczta, CRM, Odoo, helpdesk i telefonia — z jawną listą danych, które widzi model.
- 07 Zgodność RODO, KSC/NIS2 i AI Act opisane wprost: co lokalny model zmienia, a czego nie znosi.
- 08 Szkolenia Szkolenie użytkowników i administratorów oraz utrzymanie indeksu, kont i modelu.
Kolejność prac
Bez obietnicy liczby dni. Najpierw widać, co w ogóle ma sens uruchamiać lokalnie.
- 01
Rozpoznanie
Jakie źródła wiedzy, kto pyta, które dane w ogóle mogą trafić do promptu.
- 02
Model
Wybór wag open source i próba na Waszych materiałach, nie na cudzym rankingu.
- 03
Serwer
Dobór i dostawa maszyny z GPU albo — gdy wystarczy — mniejszej konfiguracji.
- 04
Integracje
Poczta, CRM, Odoo, helpdesk, telefonia. Każde połączenie z opisem, jakie dane idą do modelu.
- 05
Ludzie
Szkolenie użytkowników i administratorów oraz zasady utrzymania zapisane w umowie.
Pytania, które słyszymy na początku
Czy treść zapytań wychodzi do dostawcy modelu w chmurze?
W tym wdrożeniu nie. Model liczy na serwerze organizacji, a zapytania oraz fragmenty dokumentów nie są wysyłane do API zewnętrznego dostawcy modelu. Ruch związany z aktualizacją oprogramowania ustalamy osobno i nie mieszamy go z treścią rozmów.
Dla kogo jest Local AI 24?
Dla firm i instytucji. Nie prowadzimy ofert dla klientów indywidualnych i nie publikujemy cennika. Zakres opisujemy po krótkim rozpoznaniu.
Czym asystent różni się od wyszukiwania w dokumentach?
Asystent prowadzi rozmowę o procedurach i codziennych pytaniach pracowników. Wyszukiwanie w dokumentach najpierw znajduje fragmenty źródeł, a dopiero potem układa odpowiedź, którą da się zestawić z plikiem. Często działają razem.
Czy od razu potrzebny jest serwer z GPU?
Nie zawsze. Duży model i wielu jednoczesnych użytkowników zwykle wymagają GPU. Mniejszy scenariusz bywa możliwy na skromniejszej maszynie. Dobór opisujemy na stronie serwery GPU, bez publikowania benchmarków.
Czy lokalny model załatwia RODO, NIS2 i AI Act?
Nie. Ogranicza wysyłkę treści poza organizację, ale nie zastępuje podstawy prawnej, uprawnień, oceny ryzyka ani obowiązków zależnych od roli. Ogólny opis, bez porady prawnej, jest na stronie bezpieczeństwo i zgodność.
Jak złożyć zapytanie?
Formularz na stronie kontakt, telefon +48 698 355 667 albo list na [email protected]. W odpowiedzi dopytamy o źródła danych i miejsce, w którym ma stanąć serwer.
Opowiedzcie, co ma zostać w środku.
Wystarczy NIP, krótki opis źródeł wiedzy i informacja, czy model ma stać w siedzibie, czy w Waszej serwerowni. Wrócimy z zakresem, nie z cennikiem z półki.
Zapytaj o ofertę