Jedna granica
Treść zapytań nie idzie do API dostawcy modelu.
Wdrożenie
Lokalne wdrożenie, od rozmowy do serwera w Waszej sieci.
Składamy asystenta, wyszukiwanie w dokumentach i integracje w jeden obwód, który stoi u klienta. Najpierw ustalamy, jakie dane w ogóle mogą wejść do promptu.
B2B
Zakres dla firmy albo instytucji, nie dla osoby prywatnej.
Bez cennika
Koszt wynika z modelu, sprzętu i integracji, więc nie wisi na stronie.
Co znaczy, że zostaje w firmie
Model, indeks fragmentów i usługa odpowiedzi działają na maszynie wskazanej przez organizację: w siedzibie albo w serwerowni, do której macie kontrolę dostępu.
To nie jest skrót do „prywatnej instancji” u dostawcy chmurowego modelu. Zapytanie nie opuszcza obwodu jako wywołanie cudzego API.
Sieć bywa potrzebna do łat systemowych albo do kopii, którą sami wskażecie. Ten ruch opisujemy w projekcie, żeby nie woził treści rozmów.
Z czego składa się obwód
Typowy układ, który dopasowujemy, a nie sprzedajemy jako zamkniętą skrzynkę:
- Usługa modelu open source na Waszym serwerze.
- Indeks dokumentów, jeśli odpowiedzi mają opierać się na plikach firmy. Więcej: wyszukiwanie w dokumentach.
- Konta i sieć: kto może pytać, kto administruje, jak wygląda dziennik dostępu.
- Połączenia z narzędziami, które już macie — integracje.
- Szkolenie i utrzymanie opisane na stronie szkolenia i utrzymanie.
Czego nie deklarujemy z góry
Nie podajemy liczby tokenów na sekundę ani progu „skuteczności”. Jedno i drugie zależy od wag, sprzętu i jakości materiałów.
Asystent nie przejmuje decyzji prawnych, kadrowych, medycznych ani finansowych. Człowiek zostaje przy treści, która idzie dalej do klienta albo do akt.