Automatyzacje
RAG
Sposób łączenia modelu językowego z Twoimi dokumentami, żeby odpowiadał na podstawie faktów o firmie, a nie zmyślał.
Model językowy sam z siebie nie zna Twojego cennika, regulaminu ani procedur. RAG (retrieval-augmented generation) rozwiązuje to prosto: zanim model odpowie, system wyszukuje w Twoich materiałach fragmenty pasujące do pytania i podaje je modelowi jako kontekst. Odpowiedź powstaje na podstawie tych fragmentów, a nie z ogólnej wiedzy modelu.
W praktyce to różnica między chatbotem, który wymyśla godziny otwarcia, a takim, który cytuje je z Twojej strony. RAG pozwala też odpowiadać na pytania o dokumenty wewnętrzne, na przykład o procedury dla pracowników albo warunki umów, bez wgrywania całych dokumentów do modelu za każdym razem.
Jakość odpowiedzi zależy od jakości materiałów: nieaktualny cennik da nieaktualną odpowiedź, a sprzeczne dokumenty dadzą sprzeczne odpowiedzi. Wdrożenie zaczyna się więc od uporządkowania źródeł i ustalenia, na jakie pytania system ma odsyłać do człowieka. Dla małej firmy z kilkudziesięcioma dokumentami to zwykle rozsądny zakres, bez budowania własnej infrastruktury.