Kunnskapsgrafer som grunnlag for agentbaserte systemer

Cassie Shum har presentert en metode for å bygge agentbaserte kunstig intelligenssystemer som er klare for produksjon ved å bruke kunnskapsgrafer som sentralt grunnlag. Presentasjonen ble holdt under arrangementet QCon AI, som fokuserer på ingeniørkunsten som kreves for å skalere slike systemer på en sikker måte. Shum er visepresident for økosystem og produktutvikling i RelationalAI, der hun leder team som designer og implementerer kunstig intelligenssystemer basert på kunnskapsgrafer.

Hun forklarer hvorfor kunnskapsgrafer er en kritisk del av infrastrukturen for agenter. I stedet for å stole kun på grunnleggende henting av informasjon, som ofte kalles RAG, presenterer hun fire praktiske arkitektoniske mønstre. Disse mønstrene er samling av kontekst, sporbarhet for beslutninger, kode som kilde til sannhet og synlighet for agentene. Disse prinsippene skal hjelpe utviklere med å strukturere systemene sine bedre.

Shum demonstrerer et verktøy for ingeniørvirksomhet som er bygget oppå en kunnskapsgraf. Formålet med dette verktøyet er å forenkle tilbakemeldingsløp, optimalisere bruken av token og opprettholde påliteligheten til systemet. Hun beskriver hvordan dette verktøyet fungerer i praksis for teamet hennes. Hun understreker at dette er basert på hennes egne erfaringer og ikke er en dogmatisk instruksjon om at alle må bruke kunnskapsgrafer.

Hun nevner at hun har jobbet med grafbasert modellering av data i tre år. Hun ser relasjoner mellom ting som en grafisk format. Presentasjonen er delt i to deler. Den første delen handler om hvorfor hun tror kunnskapsgrafer er grunnlaget for agentbaserte systemer. Den andre delen handler om lærdommer fra de siste seks månedene. Hun viser hvordan ting har endret seg siden hennes siste presentasjon i New York i november i fjor.

Shum sier at hun ikke vet hvordan fremtiden vil se ut, men at de nå legger grunnlaget på plass for å kunne endre retning raskt. Hun nevner at hun har jobbet som konsulent i Thoughtworks og andre steder før hun kom til RelationalAI. Hun har gått fra å skrive kode til å lede team, men har nå vendt tilbake til koden for å se hva agentene faktisk gjør. Hun bruker sin erfaring med grunnleggende programvarepraksis for å forstå agentenes handlinger.

Arrangementet QCon AI gir tilgang til arkitektoniske verktøy og feilindikatorer som andre organisasjoner bruker i produksjon. Presentasjonen ble også knyttet til personer fra Harness og Datadog, men hovedinnholdet var Shums erfaringer. Hun sier at hun ser alt i grafers form fordi det er det hun har jobbet med. Hun sier at det handler om relasjoner og å koble ting sammen. Hun sier at dette er hennes måte å jobbe med kunstig intelligens og agenter på.

Hun sier at presentasjonen ikke er en rammeverktips eller en forutsigelse om hva som kommer. Hun sier at de er i en fase der de prøver å legge grunnlaget på plass med agentene for å utvikle seg. Hun sier at det er raskt endrende seg. Hun sier at det verste med å holde presentasjoner er at man må endre dem hele tiden. Hun sier at hun har lært mye i de siste seks månedene. Hun sier at hun er kunden til en kunnskapsgraf i demoen. Hun sier at dette er hennes lærdommer.