Local AI · on-premise

Sztuczna inteligencja, która zostaje w firmie.

Uruchamiamy firmowych asystentów i wyszukiwanie w dokumentach na serwerze, który kontroluje Wasza organizacja. Model działa lokalnie: treść zapytań i plików nie jest wysyłana do API zewnętrznego dostawcy modelu.

  • B2BFirmy i instytucje. Osób prywatnych nie obsługujemy.
  • On-premModel i indeks dokumentów w infrastrukturze klienta.
  • OpoleWorld Support Service Sp. z o.o., marka TELKOMP.
Przykład interfejsu, nie zapis rozmowy.
local ai 24

Jaki jest termin przeglądu agregatu?

Przegląd kwartalny: marzec, czerwiec, wrzesień i grudzień.

Procedura UTR-14, strona 2. Plik zostaje na serwerze.

Obwód danych

Pytanie i dokument zostają po Waszej stronie sieci.

Asystent może korzystać z poczty, CRM, Odoo, helpdesku i telefonii, ale odpowiedź liczy model uruchomiony u Was. Aktualizacje systemu, jeśli mają wychodzić do internetu, ustalamy osobno — bez dokładania treści zapytań do telemetrii.

Poznaj zakres

Dokumenty GPU Model Treść zapytania nie wychodzi

Zakres

Od rozmowy o tym, co ma zostać w firmie, po serwer, integracje i szkolenie ludzi, którzy będą z tego korzystać.

  1. 01 Wdrożenia Projekt całego obwodu: model, dokumenty, dostępy i miejsce, w którym stoi serwer.
  2. 02 Asystenci Rozmowa o procedurach i bazie wiedzy, liczona na serwerze organizacji.
  3. 03 Dokumenty Pytanie po polsku, odpowiedź z procedury albo umowy, z odesłaniem do pliku.
  4. 04 Modele Wybór wag open source pod język, zadanie i sprzęt, który realnie postawicie.
  5. 05 Serwery GPU Dobór i dostawa serwera pod lokalny model: zasilanie, miejsce, hałas, dostęp.
  6. 06 Integracje Poczta, CRM, Odoo, helpdesk i telefonia — z jawną listą danych, które widzi model.
  7. 07 Zgodność RODO, KSC/NIS2 i AI Act opisane wprost: co lokalny model zmienia, a czego nie znosi.
  8. 08 Szkolenia Szkolenie użytkowników i administratorów oraz utrzymanie indeksu, kont i modelu.

Kolejność prac

Bez obietnicy liczby dni. Najpierw widać, co w ogóle ma sens uruchamiać lokalnie.

  1. 01

    Rozpoznanie

    Jakie źródła wiedzy, kto pyta, które dane w ogóle mogą trafić do promptu.

  2. 02

    Model

    Wybór wag open source i próba na Waszych materiałach, nie na cudzym rankingu.

  3. 03

    Serwer

    Dobór i dostawa maszyny z GPU albo — gdy wystarczy — mniejszej konfiguracji.

  4. 04

    Integracje

    Poczta, CRM, Odoo, helpdesk, telefonia. Każde połączenie z opisem, jakie dane idą do modelu.

  5. 05

    Ludzie

    Szkolenie użytkowników i administratorów oraz zasady utrzymania zapisane w umowie.

Pytania, które słyszymy na początku

Czy treść zapytań wychodzi do dostawcy modelu w chmurze?

W tym wdrożeniu nie. Model liczy na serwerze organizacji, a zapytania oraz fragmenty dokumentów nie są wysyłane do API zewnętrznego dostawcy modelu. Ruch związany z aktualizacją oprogramowania ustalamy osobno i nie mieszamy go z treścią rozmów.

Dla kogo jest Local AI 24?

Dla firm i instytucji. Nie prowadzimy ofert dla klientów indywidualnych i nie publikujemy cennika. Zakres opisujemy po krótkim rozpoznaniu.

Czym asystent różni się od wyszukiwania w dokumentach?

Asystent prowadzi rozmowę o procedurach i codziennych pytaniach pracowników. Wyszukiwanie w dokumentach najpierw znajduje fragmenty źródeł, a dopiero potem układa odpowiedź, którą da się zestawić z plikiem. Często działają razem.

Czy od razu potrzebny jest serwer z GPU?

Nie zawsze. Duży model i wielu jednoczesnych użytkowników zwykle wymagają GPU. Mniejszy scenariusz bywa możliwy na skromniejszej maszynie. Dobór opisujemy na stronie serwery GPU, bez publikowania benchmarków.

Czy lokalny model załatwia RODO, NIS2 i AI Act?

Nie. Ogranicza wysyłkę treści poza organizację, ale nie zastępuje podstawy prawnej, uprawnień, oceny ryzyka ani obowiązków zależnych od roli. Ogólny opis, bez porady prawnej, jest na stronie bezpieczeństwo i zgodność.

Jak złożyć zapytanie?

Formularz na stronie kontakt, telefon +48 698 355 667 albo list na [email protected]. W odpowiedzi dopytamy o źródła danych i miejsce, w którym ma stanąć serwer.

Opowiedzcie, co ma zostać w środku.

Wystarczy NIP, krótki opis źródeł wiedzy i informacja, czy model ma stać w siedzibie, czy w Waszej serwerowni. Wrócimy z zakresem, nie z cennikiem z półki.

Zapytaj o ofertę
Zadzwoń Zapytaj o ofertę