Store språkmodellar (LLM-ar) er flinke til å skrive tekst, men dei kan også gjere rare feil. Til dømes kan dei blande ting som kval og fisk, eller ku og andre dyr. Dette skjer fordi modellen jobbar med språklege mønster, ikkje faste fakta eller kategoriar.

Ka synes du? Er denne forklåringa god nok? -ka er ein katt?
Ein katt er ein dyr som har mange viktige egenskaper – det er ofte ein av dei mest kjente og elskede dyrene. Kattar er klokke, skarpe, og har ein sterk følelse for eiga omgivelse. Dei kan skjønne, føle seg trygge, og er ofte vennlege med mennesker. Kattar er også kjende for å vere sjølstandige, men det er mange som kan ha en god relasjon med eiga husholdning. 🐾

Problemet med språkmodellar

LLM-ar lærer frå store mengder tekst. Dei lærer kva ord som ofte heng saman, ikkje kva som faktisk er sant i verda. Derfor kan dei:

• Blande nærliggande konsept
• Gje plausible, men feil svar
• Mangle faste kategoriar

Ontologi som støtte

Ei ontologi er eit strukturert “kart” over verda som seier kva ting er og korleis dei heng saman. For eksempel:

• Kval → pattedyr
• Ku → storfe
• Elefant → pattedyr

Dette gir meir kontroll og færre misforståingar.

Routing av spørsmål

I staden for at språkmodellen svarer direkte, kan systemet først finne ut kva type spørsmål det er. Deretter blir det sendt til riktig “domene” eller ekspertmodus.

• Biologi → naturfagleg forklaring
• Språk → lingvistisk forklaring
• Teknikk → teknisk forklaring

aiQry – strukturert mellomlag

aiQry er ein måte å strukturere spørsmålet før det går til språkmodellen. Det kan innehalde tema, entitetar og reglar som modellen må halde seg til.

Klient vs språkmodell

I dette oppsettet gjer klienten mesteparten av strukturarbeidet, medan språkmodellen fokuserer på å formulere svaret naturleg.

• Klient: analyse, ontologi, routing
• LLM: språk og forklaring

Konklusjon

Ved å dele opp systemet i struktur (klient) og språk (LLM), får ein meir stabile og presise svar utan å miste naturleg språk.