Artikler med tag: SageMaker AI

AWS viser en konkret vej til hybrid agent-arkitektur, hvor Bedrock AgentCore styrer orkestreringen, mens både Bedrock-modeller og et OpenAI-kompatibelt SageMaker-endpoint for Qwen 3.5 9B indgår i samme workflow. Pointen er fleksibilitet uden at omskrive agentframeworket – med klare driftskonsekvenser for omkostning, observabilitet og governance.

Blogindlæg fra AWS beskriver, at Deepgram bruger IAM Temporary Delegation i SageMaker AI til tidsbegrænset, kunde‑godkendt partneradgang uden langlivede nøgler, kryds‑konto‑roller eller delte hemmeligheder. AWS oplyser også, at tiden til første undersøgelse af en supportticket blev reduceret fra dage til minutter. Den effekt er et AWS‑udsagn, ikke uafhængigt bekræftet i kildematerialet.

AWS og Unsloth viser, hvordan dynamisk kvantisering kan reducere lager, hukommelse og opstartstid for foundation models – og hvilke deploy‑mønstre på AWS der fungerer i drift. Gevinsterne er konkrete, men nøjagtighed og driftspraksis skal håndteres disciplineret.

Amazon ruller serverless modeltilpasning ud til NVIDIAs Nemotron 3‑familie i SageMaker AI. Start med Nemotron 3 Nano og Super og vælg mellem SFT, RLVR og RLAIF. Det sænker barrieren for enterprises, men ændrer ikke på de hårde valg om data, drift og omkostninger.

AWS kobler nu SageMaker AI direkte på MLflow, så metrics, parametre og grafer fra benchmark- og optimeringsjobs lander i en SageMaker MLflow App i realtid. Det kan forkorte beslutningssløjfer fra uger til dage, skære i regneark og give reproducerbare sammenligninger på tværs af GPU-instanser og optimeringer.