Orca og AWS’ natural language-agent på Bedrock
AWS beskriver i et teknisk blogindlæg, at Orca Security i samarbejde med AWS har bygget Discovery AI, en agent på Amazon Bedrock, der konverterer spørgsmål i naturligt sprog til Sonar-forespørgsler. Ifølge bloggen dækker Sonar 900+ cloudmodeller og relationer og kræver normalt, at brugeren angiver præcise modelnavne, navigerer i forældre-barn-hierarkier og vælger mellem 18 operatorer (kilde).
Blogindlægget beskriver formålet med Discovery AI som at bygge bro mellem naturligt sprog og strukturerede Sonar-forespørgsler. Ifølge kilden producerer agenten en gyldig Sonar-query ud fra et frit formuleret spørgsmål.
POC-tilgang og tidlige flaskehalse
Ifølge AWS-bloggen indlæste Orcas første proof of concept hele Sonar-skemaet i én prompt på den største tilgængelige model: over 900 modeldefinitioner, alle relationstyper og et sæt eksempel-forespørgsler. Outputkvaliteten blev ifølge indlægget vurderet positivt af designpartnere og interne brugere, men omkostninger og hastighed var udfordringen i skala (kilde).
Bloggen angiver cirka 2 millioner input-tokens per workload og end-to-end-responstid omkring 60 sekunder for denne POC-tilgang. Det beskrives som en hovedårsag til at revurdere arkitekturen.
Rapporterede forbedringer og afgrænsning
I samme blogindlæg fremgår det, at efter udrulning af Discovery AI reducerede Orca query-omkostninger med 90 procent, input-tokens med 93 procent og latenstid med 75 procent sammenlignet med den indledende baseline. Tallene er oplyst af Orca/AWS i bloggen og er målt mod deres interne POC-baseline (kilde).
Metodiske detaljer som workload-mix, konkrete testspørgsmål, datasæt og måleværktøjer er ikke publiceret i blogindlægget. De specifikke Bedrock-modeller, instanstyper og prisdetaljer omtales heller ikke.
Hvad bloggen dokumenterer om Sonar-kompleksitet
Ifølge AWS-bloggen er en praktisk barriere for manuelle Sonar-forespørgsler kravet om: 1) præcise modelnavne, 2) navigation i nested relationer på tværs af udbydere og 3) valg mellem 18 operatorer i JSON. Det fremhæves som baggrunden for at bygge en NL→Sonar-agent på Bedrock (kilde).
Blogindlægget understreger, at Discovery AI konverterer et naturligt sprog-spørgsmål til en Sonar-query. Udover dette arkitekturmål offentliggøres der ikke yderligere detaljer som specifikke foundation-modeller, instanser eller prissætning.
Hvad man med sikkerhed kan tage med
Følgende punkter kan spores direkte til blogindlægget: Sonar dækker 900+ cloudmodeller og relationer; manuelle forespørgsler kræver præcise modelnavne, navigering i relationer og 18 operatorer; Orca og AWS har bygget Discovery AI på Bedrock for at konvertere naturligt sprog til Sonar; den første POC indlæste hele skemaet i én prompt på den største model og ramte cirka 2 millioner input-tokens og cirka 60 sekunders latenstid; og de efterfølgende forbedringer opgøres til 90/93/75 procent mod POC-baselinen.
Bloggen deler ikke arbejdsbelastning, eksempel-queries, datasets, måleværktøjer eller uafhængig tredjepartsvalidering. Konklusioner om generaliserbarhed ligger uden for kildens scope.
