Hoppa till innehållet
NYHETER · ANALYS · GUIDERSvenskt perspektiv på en uppkopplad värld
cybersäkerhet.aiOm redaktionen
Sök

Microsoft vill begränsa AI-agenters behörigheter när risken ökar

Microsoft utökar Project Perception med kontroller för AI-agenter. Systemet ska kunna minska behörigheter, kräva mänskligt godkännande eller stoppa en agent när dess beteende förändras.

Tre personer vid en whiteboard och ett bord med Microsoft-datorer i en kontorsmiljö.
Kontorsarbete med Microsoft-datorer. Illustrationsfoto publicerat av Windows 2021. Foto: Windows / Unsplash · Unsplash License.
Bildinformation

Färg och kontrast har justerats varsamt.

Åtkomst ska följa uppgiften

En AI-agent kan behöva läsa företagsdata och använda verktyg för att utföra sitt arbete. Microsofts besked den 19 oktober handlar om att kontrollera den åtkomsten även efter att uppgiften har startat.

Bolaget presenterar bland annat Dynamic Permissions: tidsbegränsade behörigheter som anpassas till uppgiften. Agenten ska inte automatiskt ärva alla rättigheter från personen som använder den.

Skyddet ska reagera på ändrat beteende

Som exempel beskriver Microsoft en agent som möter manipulerade instruktioner i ett externt dokument. Systemet ska kunna behålla läsbehörigheten men hindra ändringar, eller begära mänskligt godkännande för en känslig åtgärd.

Så kallade Guardian Agents ska hjälpa säkerhetsteam att undersöka och begränsa risker. Beskrivningen kommer från Microsoft och gäller bolagets egna säkerhetsfunktioner; någon oberoende effektmätning redovisas inte i beskedet.

Källor & vidare läsning

Sammanställningen bygger på följande källor.

Om sajten och vårt innehåll

Läs också

Alla nyheter
Amazon Spheres tre glaskupoler vid företagets kontor i Seattle.

Foto: Sea Cow / Wikimedia Commons · CC BY-SA 4.0

Nyhet · AI & säkerhet

Amazon: Cairn hittade tidigare okänd brist i medicinsk AI-app vid universitetsintrång

1 min läsning
Europeiska kommissionen, huvudkontor. Arkivbild.

Foto: EmDee / Wikimedia Commons · CC BY-SA 4.0

Nyhet · AI & säkerhet

EU-kommissionen bekräftar cyberangrepp med AI-verktyg

1 min läsning
Tillbaka till nyheterna