DI, sujungtas su žiniomis, kurias naudoja jūsų verslas.
Standartinis DI pažįsta internetą. Jis nepažįsta jūsų produktų, taisyklių, istorijos ar klientų. Kuriame sistemas, kurios randa aktualią informaciją patvirtintuose jūsų įmonės šaltiniuose (retrieval, RAG) ir ja remiasi padėdamos atsakyti į klausimus. Apibrėžiame, ką sistema gali pasiekti, kaip naudotojai patikrina šaltinius ir kur informacija bus apdorojama.
Pradėkite nuo nemokamo 30 minučių pokalbio, kad apibrėžtume šaltinius ir talpinimą.
Pajėgus modelis, sujungtas su jūsų žiniomis.
Viešasis DI puikiai išmano pasaulio žinias, bet nieko nežino apie jūsų — jis niekada nematė jūsų dokumentų. Retrieval pateikia aktualius dokumentus, kai užduodamas klausimas. Fine-tuning keičia patį modelį naudojant mokymo pavyzdžius. Sujungti DI sistemą su dokumentais nereiškia apmokyti naujo modelio.
Retrieval (RAG)
Modelis atsakymo metu peržiūri patvirtintus dokumentus ir įrašus, tada atsako remdamasis tomis ištraukomis. Šį metodą naudoja pagalbos asistento pavyzdys, kurį mūsų įkūrėjas sukūrė įmonės viduje. Tinka besikeičiančioms žinioms ir atsakymams, kurie turi rodyti savo šaltinį.
Fine-tuning
Fine-tuning keičia modelį naudojant mokymo pavyzdžius. Nesame pristatę fine-tuned modelio kaip atlikto projekto. Svarstytume jį tik tada, kai retrieval negali atlikti užduoties, ir nemokome bazinių modelių.
Jis pasitikslina prieš atsakydamas.
Kiekvienas atsakymas sudaromas iš ištraukų, surastų patvirtintuose jūsų šaltiniuose, todėl žmogus gali matyti, iš kur kilo informacija. Retrieval sumažina nepagrįstų spėjimų, bet nepadaro kiekvieno atsakymo teisingo.
Klausimas
Realus klausimas paprasta kalba — iš žmogaus, jūsų pokalbių roboto ar programėlės.
Paieška
Vektorinė paieška peržiūri jūsų žinių bazę ir randa aktualiausias ištraukas.
Pagrindimas
Geriausios ištraukos perduodamos modeliui kaip kontekstas — su nurodymu atsakyti remiantis jomis.
Atsakymas
Atsakymas, kuriame galima parodyti panaudotą šaltinį, kad žmogus galėtų jį patikrinti.
Tas pats klausimas. Labai skirtingi atsakymai.
Klientas klausia: „Koks grąžinimo terminas mano „Enterprise" planui?"
„Neturiu prieigos prie jūsų įmonės konkrečių taisyklių, bet grąžinimo terminai paprastai būna 14–30 dienų. Patikrinkite savo sąlygas arba kreipkitės į pagalbą."
„„Enterprise" planai gali būti grąžinti per 45 dienas nuo sąskaitos datos; vėliau taikomas sąskaitos kreditas."
DI smegenys, sukurtos aplink jūsų verslą.
Atsakymai, pagrįsti jūsų duomenimis
Modelis atsako iš jūsų dokumentų, istorijos ir žinių — ne iš interneto — todėl žmogus gali patikrinti šaltinį.
Jūsų pasirinktas talpinimas
Galimi atviri modeliai, tiekėjo API arba jūsų valdoma infrastruktūra. Kur apdorojama informacija, priklauso nuo pasirinkto talpinimo, modelio ir prijungtų paslaugų.
Užduočiai tinkamas metodas
Dokumentų sujungimas su modeliu yra retrieval. Fine-tuning — kitas metodas ir nėra numatytoji kūrimo dalis. Nemokome bazinių modelių.
Kalba jūsų srities kalba
Kadangi jis remiasi jūsų terminologija, produktais ir taisyklėmis, atsakymai gali atitikti tai, kaip parašyti jūsų dokumentai — ne bendrinį scenarijų.
Lieka aktualus
Keičiantis jūsų žinioms, atnaujinami ir modelio šaltiniai — kad atsakymai nepasentų.
Sukurtas prisijungti
Modelis tampa smegenimis už jūsų pokalbių roboto, pagalbos agento, vidinės paieškos ar programėlės.
Nuo jūsų žinių iki sistemos, kurią galite patikrinti.
Apibrėžiame žinias
Pirmame pokalbyje nustatome, ką sistema turi žinoti — kurie šaltiniai tinka, kas gali juos pasiekti ir kaip atrodo naudingas atsakymas.
Sukuriame retrieval
Prijungiame patvirtintus šaltinius, nustatome retrieval ir susitariame, kaip atsakymai bus tikrinami pagal reprezentatyvius klausimus. Tai nėra naujo modelio apmokymas.
Susitariame dėl talpinimo
Prieš įgyvendinimą dokumentuojame duomenų srautą — kuris modelis, kuris tiekėjas ar infrastruktūra ir kurios prijungtos paslaugos apdoroja informaciją.
Sujungiame ir prižiūrime
Sujungiame sistemą su apimtyje numatytu pokalbių robotu, agentu ar programėle ir susitariame, kaip šaltiniai bus atnaujinami keičiantis verslui.
Kai bendro DI nepakanka.
Komandoms su metų žiniomis
Pagalbos istorijos, dokumentacija, vadovai — retrieval gali paversti tą krūvą atsakymais, kurie rodo savo šaltinį.
Verslams, kurie negali siųsti duomenų viešam DI
Jei įmonės medžiagos įkėlimas į viešą pokalbių robotą nepriimtinas, susitariame dėl talpinimo, modelio ir prijungtų paslaugų, kad žinotumėte, kur apdorojama informacija.
Visiems, kuriantiems DI produktą
Jei reikia DI funkcijos, atsakančios iš konkrečios srities žinių, retrieval iš patvirtintų šaltinių yra įprastas pamatas, ant kurio ji stovi.
Privatus pagalbos asistentas — RAG virš trejų metų realių pokalbių istorijos.
Mūsų įkūrėjas tai sukūrė įmonės viduje, Lietuvos konferencijų organizatoriaus įmonėje: pagalbos asistentą, kuris randa atsakymus trejų metų realių klientų pokalbiuose ir veikia atviru modeliu organizacijos kontroliuojamoje infrastruktūroje. Tai retrieval virš esamos istorijos — ne fine-tuned modelis ir ne Zyndix kliento projektas.
3 yrs pagalbos istorijos indeksuota.
Atviras modelis jų kontroliuojamoje infra.
RAG retrieval virš tos istorijos — ne fine-tuning.
Parenkame modelį ir konfigūraciją, kurie tinka jūsų tikslumui, privatumui ir biudžetui — ne universalų sprendimą.
Privatus DI ir žinių sistemos — atsakymai.
DI agentų kūrimas
Kai žinių sluoksnis turi veikti už aiškiai apibrėžtos užduoties jūsų įrankiuose.
DI pokalbių robotų kūrimas
Kai pirmiausia reikia atsakymų jūsų svetainėje, su galimybe perduoti klausimą komandai.
Pagalbos asistento projektas
Paieška trejų metų pagalbos pokalbių istorijoje, sujungta su Chatwoot.
Kuriuos dokumentus sistema turėtų galėti naudoti?
Atsineškite realų klausimą, šaltinį, kuris turėtų į jį atsakyti, ir talpinimo apribojimus. Nemokamo 30 minučių pokalbio metu aptarsime praktišką pirmąją apimtį.