Korisnički vodič za QuickLLM
QuickLLM zadržava zaključivanje, razgovore, dokumente, ugradnje, dohvaćanje i generirani tekst na uređaju, uz vidljivu prikladnost modela i svrhu mreže.
Početak rada
- Pokrenite dijagnostiku uređaja i odaberite model koji odgovara.
- Preuzmite, provjerite i učitajte model.
- Započnite razgovor i odaberite Profil.
- Po želji izradite Bazu znanja, dodajte pouzdane dokumente i provjerite citate.
- Izvezite važan rad ili izradite šifriranu sigurnosnu kopiju prije premještanja ili brisanja podataka.
Savjet: Odaberite manji kontekst ili model prije prisiljavanja konfiguracije koja ne stane u memoriju.
Pregled sučelja
| Područje | Svrha |
|---|---|
| Razgovor | Popis razgovora, odabir modela/Profila/Znanja, poruke, citati, kontekst, Slanje i Zaustavljanje. |
| Modeli | Katalog, pretraživanje, kompatibilnost, preuzimanja, instalirane datoteke, Profili, prilagodnici i stanje izvršavanja. |
| Znanje | Baze znanja, dokumenti, izdvajanje, indeksiranje, ispitivanja dohvaćanja, utemeljenje i citati. |
| Predlošci & radnje | Upiti za višekratnu uporabu, tipizirani tijekovi rada, ulaz dijeljenja s mobilnog uređaja, pregled rezultata i putanje spremanja. |
| Uslužni alati | Dijagnostika, preuzimanja, lokalni API za stolna računala, sigurnosno kopiranje/vraćanje, brza radnja, Postavke, Pomoć, privatnost i licencije. |
Modeli koji odgovaraju, odgovori čije izvore možete pratiti
QuickLLM razlikuje izmjerene mogućnosti uređaja od procjena i utemeljene odgovore povezuje s lokalnim izvadcima dokumenata umjesto izmišljanja nepodržanih citata.
- Privatni lokalni razgovor: Vodite razgovore putem priloženog lokalnog zaključivanja uz vidljiv model, Profil, Znanje, kontekst, generiranje i stanje Zaustavljanja.
- Prikladnost modela: Izmjerite mogućnosti uređaja, usporedite potrebe za memorijom i pohranom, preuzmite provjerene modele i objasnite nepodržane konfiguracije.
- Baze znanja: Učitajte podržane dokumente, izradite lokalne indekse, dohvatite utemeljene izvatke i otvorite citate na njihovu izvoru.
- Profili i LoRA: Spremite kombinacije modela, konteksta, uzorkovanja, pozadinskog sustava i prilagodnika za ponovljivi rad.
- Predlošci i Radnje: Ponovno upotrebljavajte privatne upite i pokrećite tijekove dijeljenog teksta koji rezultate čuvaju za kopiranje, dijeljenje ili razgovor.
- Prenosivo upravljanje: Izvezite razgovore, pokrenite lokalni API na stolnom računalu kada ga izričito omogućite te izradite šifrirane datoteke za sigurnosno kopiranje i vraćanje.
Napomena: Preuzeti modeli i izvorni dokumenti mogu imati zasebne licencije i ograničenja uporabe. Pregledajte ih prije uporabe ili daljnje distribucije.
Postavke
Otvorite Postavke kako biste pregledali sljedeće kontrole povezane s aplikacijom:
- Izvorni mehanizam, pozadinski sustav, dretve, kontekst, predmemorija, pohrana i postavke modela
- Izdvajanje znanja, ugradnje, dohvaćanje, utemeljenje i ponašanje citata
- Lokalni API za stolna računala, mreža, mobilno dijeljenje, predlošci i radnje
- Privatnost, šifrirane sigurnosne kopije, brisanje, izgled, prečaci, dijagnostika i licencije
Probna, besplatna i Pro inačica imaju isti skup funkcionalnih značajki. Pro uklanja oglase na mobilnim uređajima i dnevni podsjetnik za podršku na stolnim računalima.
Tipkovni prečaci
Na platformama Apple upotrebljavajte Command kada aplikacija prikazani prečac Ctrl preslikava na primarnu tipku platforme. Stranica prečaca u aplikaciji uvijek je mjerodavna.
| Prečac | Radnja |
|---|---|
| Cmd/Ctrl + N | Novi razgovor |
| Cmd/Ctrl + K | Pretraži razgovore |
| Cmd/Ctrl + M | Odaberi model |
| Cmd/Ctrl + B | Odaberi Bazu znanja |
| Cmd/Ctrl + Alt/Option + I | Pojedinosti razgovora |
| Esc | Zaustavi generiranje |
Savjeti & trikovi
Odaberite manji kontekst ili model prije prisiljavanja konfiguracije koja ne stane u memoriju.
Upotrijebite strogo utemeljenje kada odgovor mora ostati unutar indeksiranih izvora.
Otvorite citate i usporedite izdvojeni izvadak prije oslanjanja na generiranu tvrdnju.
Zaporke sigurnosnih kopija čuvajte odvojeno od šifrirane datoteke sigurnosne kopije.
Rješavanje problema
| Problem | Što provjeriti |
|---|---|
| Model se ne može učitati | Provjerite kompatibilnost, procjenu memorije, pohranu, provjeru datoteke, odabrani pozadinski sustav i drugu aktivnu sesiju modela. |
| Generiranje je sporo | Upotrijebite dijagnostiku uređaja, manji model ili kontekst, odgovarajući pozadinski sustav i izmjerene umjesto pretpostavljenih performansi. |
| Znanje nema odgovor | Pregledajte izdvajanje dokumenta, stanje indeksa, ispitivanje dohvaćanja, filtre i sadrži li izvor doista dokaze. |
| Sigurnosna kopija ne može se vratiti | Provjerite zaporku, cjelovitost datoteke, kompatibilnost sheme, slobodan prostor i pregled vraćanja prije zamjene trenutačnih podataka. |
Privatnost
- Upiti, razgovori, dokumenti, ugradnje, dohvaćanje i generirani tekst ostaju na uređaju.
- Uporaba mreže ograničena je na zatraženi katalog/pretraživanje, preuzimanje modela, provjeru ažuriranja ili API krajnju točku koju izričito omogućite.
- Ulazi mobilnog dijeljenja privremeni su, a vanjski izvornici nikada se ne brišu.
- Podaci radnog prostora u vlasništvu aplikacije i upravljane kopije mogu se ukloniti pregledanim postupkom privatnosti.
Vaša odgovornost: Ne izlažite neobavezni API za stolna računala izvan pouzdane granice i ne upotrebljavajte modele ili dokumente protivno njihovim licencijama.