Cytat
Odpowiedź ma prowadzić do dokumentu i fragmentu, nie do „wiedzy modelu”.
Dokumenty
Odpowiedź oparta na Waszych plikach, ze wskazaniem fragmentu.
Najpierw szukamy ustępów w materiałach firmy, potem model układa odpowiedź tylko z tego, co znalazł. Embeddingi i kopie fragmentów zostają na serwerze organizacji.
Lokalny indeks
Wektory nie lecą do usługi embeddingów w cudzej chmurze.
Uprawnienia
Osoba nie powinna dostać ustępu, którego nie może otworzyć w źródle.
Jak to działa, bez magii
Zbiór dzielimy na fragmenty, liczymy ich reprezentację i trzymamy indeks obok modelu. Pytanie użytkownika trafia najpierw w indeks. Do modelu idą tylko znalezione ustępy i sama treść pytania.
Dzięki temu model nie musi „pamiętać” firmy. Ma przeczytać to, co właśnie dostał, i powiedzieć, gdy w dostarczonych fragmentach odpowiedzi nie ma.
Jakie materiały
Listę formatów zamykamy na Waszym zbiorze, nie na slajdzie.
- Dokumenty biurowe, PDF-y tekstowe, strony intranetu, eksporty z helpdesku.
- Skany bez warstwy tekstu wymagają osobnego rozpoznania pisma. Nie obiecujemy, że każdy skan będzie czytelny.
- Materiały nieaktualne trzeba umieć wyłączyć. Inaczej asystent z powagą zacytuje starą procedurę.
- Jeśli w plikach są dane osobowe, zakres indeksu jest decyzją administratora danych. Opis ogólny: bezpieczeństwo i zgodność.
Uprawnienia
Sam indeks nie zna struktury działów. Jeśli handlowiec nie może czytać teczek kadrowych, wdrożenie musi to odwzorować: osobne zbiory albo filtr przy wyszukiwaniu spięty z kontem.
Sposób zależy od systemu, w którym pliki już żyją. Nie sprzedajemy uniwersalnej wtyczki „do każdego dysku”. Gdy źródłem jest Odoo albo zgłoszenia, patrzymy na integracje.
Pytania
Czy widać, skąd wzięła się odpowiedź?
Taki jest cel tego układu: przy odpowiedzi zostają nazwa dokumentu i fragment, na którym się oparła. Użytkownik ma móc otworzyć plik i sprawdzić, a nie uwierzyć modelowi na słowo.
Czy każdy pracownik zobaczy każdy dokument?
Nie, jeśli tak to zaprojektujemy. Podział musi wynikać z uprawnień w systemie źródłowym. Sam model tego nie wymyśli, więc ustalamy to przy rozpoznaniu zbioru.