Har du installert en lokal AI-assistent og eksperimentert litt med å stille den spørsmål? Kanskje etter å ha lest Finns bloggpost om temaet? Da har du sikkert oppdaget hvor kraftig verktøyet er. Men du har kanskje også merket en begrensning: Den vet ingenting om ditt liv, dine dokumenter eller din historie.

Fra generell til personlig assistent

Tenk deg at AI-assistenten din kunne svare på spørsmål om dine egne e-poster, dokumenter og notater. At den kunne finne gamle avtaler, huske detaljer fra møter, eller grave frem garantivilkår fra flere år tilbake. Alt dette er mulig med en teknikk som kalles RAG (Retrieval Augmented Generation).

black-forest-labs/FLUX.1-dev: A friendly robot sitting at a desk, reading through private emails and documents, with a reassuring padlock symbol nearby, warm lighting, minimalist style

Konseptet er enkelt:

  1. Du stiller et spørsmål
  2. Systemet finner relevant informasjon fra dine private data
  3. Spørsmålet ditt blir “beriket” med denne informasjonen
  4. AI-modellen svarer basert på både spørsmålet og den relevante informasjonen

Et praktisk eksempel

La oss si at du oppdager at flere fliser på badet har begynt å slippe fra veggen. Du husker det var mye snakk om garantier i e-postene da badet ble pusset opp for to år siden, men detaljene er uklare. Du spør:

“Hvilke avtaler gjorde jeg med tanke på flisene på veggen med håndverkeren som pusset opp badet? Flisene har begynt å slippe taket.”

En vanlig AI-modell ville bare gitt deg generelle råd som “Sjekk garantivilkårene i kontrakten din” eller “Kontakt håndverkeren som utførte arbeidet”, men med RAG kan spørsmålet ditt berikes med relevant informasjon fra dine e-poster:

Spørsmål: Hvilke avtaler gjorde jeg med tanke på flisene på veggen med håndverkeren som pusset opp badet? 
Flisene har begynt å slippe taket.

Bruk denne informasjonen:
Fra: Mester Flis & Bad AS <post@mesterflis.no>
Dato: 15. mars 2022
Emne: Tilbud på rehabilitering av bad

Hei og takk for befaring i går. Som avtalt sender jeg tilbudet på rehabilitering av badet:
- Riving av eksisterende fliser og innredning
- Ny membran på alle vegger og gulv (Mapei-system)
- 60x60 fliser på gulv og vegger (type Concrete Grey som vi så på)
- Alle materialer og arbeid: 285.000 kr inkl. mva
- Garanti: 10 år på membranarbeid, 5 år på øvrig arbeid
- Oppstart uke 15, varighet ca. 4 uker

Fra: Erik Pedersen <erik@mesterflis.no>
Dato: 12. mai 2022
Emne: Re: Ferdigbefaring bad

Bekrefter at badet er ferdigstilt og godkjent. Som gjennomgått på befaringen:
- Dokumentasjon på membranarbeid er registrert i boligmappa.no
- Våtromssertifikat er vedlagt
- Garantien løper fra dags dato: 12. mai 2022
- Husk å lufte godt det første året for å unngå problemer med fukt

Fra: Byggmester Hansen <post@byggmester.no>
Dato: 23. april 2022
Emne: Tilbud på utskifting av vinduer

Hei, sender som avtalt tilbud på utskifting av vinduer i 2. etasje:
- 3 stk vinduer 120x120
- Komplett montering inkl. belistning
- Pris 45.000 kr inkl. mva
- 5 års garanti på arbeid og produkter

Fra: Rørlegger Hansen <post@rorlegger.no>
Dato: 3. september 2021
Emne: Tilbud varmepumpe

Sender som avtalt tilbud på luft-til-luft varmepumpe:
- Mitsubishi FH35 inkl. standardmontering
- Pris kr 28.500 inkl. mva
- 5 års garanti fra produsent
- Kan montere i løpet av oktober

Som du ser har systemet funnet flere e-poster som inneholder ord som “garanti”, “tilbud” og lignende, men bare to av dem er faktisk relevante for spørsmålet ditt. Dette er typisk for hvordan søket fungerer - det er bedre å finne litt for mye enn for lite. AI-modellen vil uansett kunne skille det relevante fra det irrelevante og gi deg et presist svar basert på dine faktiske avtaler og garantier. I dette tilfellet vet den nå nøyaktig hvilken garanti du har (10 år på membranarbeid, 5 år på øvrig arbeid), når garantien begynte å løpe (12. mai 2022), og hvor dokumentasjonen er lagret (boligmappa.no).

Hvordan fungerer det?

  1. Lagring: Dine private data (e-poster, dokumenter, notater) lagres lokalt på din maskin
  2. Søk: Når du stiller et spørsmål, søker systemet gjennom dataene etter potensielt relevant informasjon
  3. Berikelse: Spørsmålet ditt kombineres med den funnede informasjonen
  4. Svar: AI-modellen analyserer all informasjonen og genererer et presist svar

Alt dette skjer lokalt på din maskin - ingen data sendes til eksterne tjenester. Dette gjør det mulig å få presise svar på spørsmål om dine private anliggender, enten det gjelder garantiavtaler, møtereferater eller andre dokumenter du har lagret.

En personlig assistent for fremtiden

Tenk deg mulighetene når din AI-assistent virkelig kjenner din kontekst. Den kan:

  • Finne gamle avtaler når du trenger dem
  • Huske detaljer fra tidligere prosjekter
  • Oppsummere lange e-posttråder
  • Hjelpe deg å følge opp garantier og frister

Dette er ikke science fiction - det er en realitet i dag. Ved å la AI-assistenten jobbe med dine private data lokalt, får du det beste fra to verdener: Kraften fra moderne AI-modeller kombinert med din personlige informasjon, alt mens dataene dine forblir under din kontroll.

Er du interessert i å lære hvordan dette teknisk fungerer? I neste bloggpost dykker min kollega Trygve ned i de tekniske detaljene om hvordan vektor-representasjoner av tekst og semantiske søk kan implementeres, med et praktisk eksempel som bruker Wikipedia-artikler. Prinsippene er de samme som kan brukes for dine private data.