Търсене в документите или промяна на модела.
Двата подхода решават различни проблеми и често се бъркат. Единият дава на модела информация; другият променя как той се държи.
Каква е разликата между RAG и дообучаване на модел?
RAG е подход, при който моделът първо търси информация в определени източници — вътрешни документи, процедури, продуктова база — и чак след това съставя отговора. Дообучаването променя самия модел, за да се държи по определен начин: формат, стил, терминология. RAG решава проблем със знанието; дообучаването решава проблем с поведението. За повечето фирмени задачи нужен е първият.
Когато някой каже „обучихме модела с нашите данни“, в деветдесет процента от случаите става дума за RAG, а не за дообучаване. Разликата има значение за цената и поддръжката.
Кое какво решава?
Едно и също изискване, два различни начина да се постигне.
| RAG | Дообучаване | |
|---|---|---|
| Отговор по актуална фирмена документация | да | не |
| Посочване на източник в отговора | да | не |
| Обновяване при промяна на процедура | веднага | ново обучение |
| Специфичен формат на изхода | отчасти | да |
| Фирмена терминология и стил | отчасти | да |
| Първоначален разход | по-нисък | по-висок |
| Разход при промяна | нисък | висок |
| Изисква подредени документи | да | не |
| Изисква качествен набор от примери | не | да |
Кога кое?
Обикновено отговорът се вижда от това какъв е проблемът.
- Проблемът е „моделът не знае нашите неща“ това е RAG. Информацията се дава при всяка заявка, от източници, които поддържате.
- Проблемът е „моделът не отговаря както ни трябва“ това може да е дообучаване — но първо се пробва с добре описани инструкции и примери.
- Проблемът е и двете започва се с RAG. Дообучаване се обмисля само ако остане нерешено нещо конкретно.
В нашите проекти дообучаване правим рядко. Почти винаги проблемът е в достъпа до знанието, не в поведението на модела. И при двата подхода човек отговаря за източниците: при RAG поддържа документите, при дообучаване — примерите.
Какви са ограниченията?
И двата подхода имат условие, без което не работят.
- RAG е толкова добър, колкото източниците ако документът е стар или грешен, отговорът ще е уверено грешен. Определя се кой поддържа всеки източник.
- RAG изисква подредени документи разпръснатото знание не се появява само. Първата стъпка е да се реши кои източници са одобрени.
- Дообучаването изисква качествени примери малко на брой или противоречиви примери влошават резултата вместо да го подобрят.
- Дообученият модел остарява при промяна в процеса се налага ново обучение, а не редакция на документ.
- Човек потвърждава отговора при чувствителна тема посоченият източник позволява проверка за секунди. При теми с последствия навън тази проверка е задължителна, а не по избор.
Как изглежда работещ RAG на практика — в вътрешен AI асистент.
Често задавани въпроси
Нашите данни ще станат ли част от модела при RAG?
Не. При RAG документът се подава като контекст за конкретната заявка. Дали доставчикът запазва нещо зависи от избрания режим и се проверява при избора.
Колко документа са нужни, за да работи RAG?
Не броят е важен, а качеството и актуалността. Двадесет добре поддържани процедури дават по-добър резултат от две хиляди разпръснати файла.
Може ли да комбинираме двете?
Да, но рядко е нужно. Обикновено RAG плюс добре описани инструкции покрива това, за което се обмисля дообучаване.
Кое е по-бързо за внедряване?
RAG, значително. Дообучаването изисква подготовка на набор от примери, обучение и оценка — а после същото при всяка промяна.
Кой стои зад това сравнение?
Сравнението отразява как избираме в реални проекти, а не общо класиране. Ако вашият случай не попада в описаното, кажете ни го.
Какво да прочетете след това?
Имате разпръсната документация?
Кажете ни колко източника има и кой ги поддържа — оттам започва всичко.
От тази задача към работещо решение.
Описаните проверки могат да бъдат приложени към конкретен фирмен процес. Следните услуги уточняват какво включва практическото изпълнение, какви данни са нужни и как се приема резултатът.