TerugDiensten

LLM koppeling met eigen data voor jouw bedrijf

Een taalmodel weet niets van jouw bedrijf. Het kan pas nuttige antwoorden geven als het jouw gegevens kan raadplegen: je voorraad, je dossiers, je afspraken. Die verbinding bouwen wij, met de rechten en de controle die daarbij horen.

Antwoorden op basis van jouw gegevensPrijs vooraf afgesprokenRechten per gebruiker

Wat kun je ermee?

Wat er mogelijk wordt met je eigen gegevens erbij.

Vragen over actuele cijfers

Hoeveel is er nog op voorraad, wat staat er open bij deze klant, wanneer is de laatste levering geweest? Antwoorden uit je systeem, niet uit een schatting.

Combineren wat verspreid staat

Een vraag waarvoor je normaal drie systemen moet openen, kan in een keer beantwoord worden omdat het model ze alle drie kan raadplegen.

Per gebruiker wat hij mag zien

De rechten van degene die vraagt, bepalen welke gegevens meegenomen worden. Iemand krijgt nooit iets te zien wat hij normaal niet mag.

Zo verbinden we je gegevens

Eerst afbakenen, dan verbinden.

01

Bepalen welke bronnen meedoen

Niet alles hoeft erbij. We kiezen de bronnen die de vragen beantwoorden die er echt leven, en laten de rest buiten beschouwing.

02

Rechten per gebruiker regelen

De koppeling kijkt met de ogen van degene die de vraag stelt. Dat bouwen we in de laag eromheen, niet in de instructie aan het model.

03

Testen met bekende antwoorden

We stellen vragen waarvan jullie het antwoord weten en vergelijken. Zo zie je waar het klopt en waar niet, voordat je erop vertrouwt.

Hoe pakken we LLM met eigen data aan?

Een model dat je eigen gegevens kan raadplegen, is een stuk nuttiger dan een dat alleen algemene kennis heeft. Het verschil tussen iets dat klinkt als een antwoord en een antwoord dat klopt, zit hem precies in die verbinding met jouw bronnen.

De valkuil is dat je het model te veel geeft. Als het bij alles kan, kan het ook iets teruggeven dat de vrager niet had mogen zien. Wij bouwen de rechtencontrole daarom in de laag eromheen: de vraag wordt uitgevoerd met de rechten van degene die hem stelt, en gegevens waar hij niet bij mag, komen simpelweg niet in beeld.

Het tweede punt is controleerbaarheid. Een antwoord dat uit je eigen gegevens komt, moet je kunnen nakijken. Wij zorgen daarom dat bij elk antwoord zichtbaar is welke gegevens zijn gebruikt. Dat maakt fouten opspoorbaar en het geeft mensen de kans om te controleren voordat ze op een antwoord handelen.

Waarom Online Actief

Wij regelen de rechten in de laag eromheen en niet in de instructie. Een model dat je vraagt om iets niet te tonen, is geen beveiliging.

  • Vraag uitgevoerd met rechten van de vrager
  • Zichtbaar welke gegevens zijn gebruikt
  • Alleen de bronnen die nodig zijn
  • Onderhoud en bewaking geregeld
Plan een gratis gesprek
Vincent van Online Actief
Wat kost het om LLM met eigen data te laten maken?

Dat hangt af van het aantal bronnen en van hoe de rechten geregeld moeten worden. Na een gesprek waarin we dat afbakenen, krijg je een vaste prijs per bron.

Kan iemand gegevens zien die niet voor hem bedoeld zijn?

Dat kan niet als het goed gebouwd is. De vraag wordt uitgevoerd met de rechten van degene die hem stelt, dus gegevens waar hij niet bij mag komen niet in beeld.

Gaan onze gegevens naar de aanbieder van het model?

Alleen de stukken die nodig zijn om die ene vraag te beantwoorden, niet je hele database. Bij gevoelige gegevens kunnen we bovendien kiezen voor een model dat op eigen hardware draait.

Hoe weten we of een antwoord klopt?

Bij elk antwoord is zichtbaar welke gegevens zijn gebruikt. Zo kun je het nakijken voordat je erop handelt, en zijn fouten opspoorbaar.

Vincent van Online Actief

Een model dat je eigen cijfers kent?

Plan een vrijblijvend gesprek. We kijken welke bronnen de vragen beantwoorden die bij jullie leven.

Plan een gratis gesprek