Skip to header Skip to main navigation Přejít k hlavnímu obsahu Skip to footer

Přihlášení

  • Obnovení vašeho hesla

Menu uživatelského účtu

Site branding

Domů

Hlavní navigace

  • Domů

Shepherd má dohlížet na AI agenty pomocí verzování a sandboxu

Drobečková navigace

Drobečková navigace

  • Domů
  • Shepherd má dohlížet na AI agenty pomocí verzování a sandboxu

Obsah hlavní stránky

Profile picture for user David Bender
Od David Bender | 4:10 Odpoledne CET, Čt Listopad 19, 2026

Shepherd má dohlížet na AI agenty pomocí verzování a sandboxu

Výzkumníci z Northeasternu a Stanfordu představili framework Shepherd, který má dohlížet na autonomní AI agenty a omezovat jejich chybné či nebezpečné kroky. Systém využívá principy verzování známé ze softwarového vývoje: ukládá akce agentů, jejich stav i okolní prostředí jako jednotlivé revize. Nadřazený meta-agent tak může činnost sledovat, problematický krok zastavit, vrátit agenta do předchozího stavu nebo vytvořit alternativní větev postupu. Sandbox zároveň zachytává citlivé akce, například odeslání e-mailu, před jejich skutečným provedením. Autoři systém otestovali při programování, optimalizaci pracovních postupů i trénování posilovaným učením; projekt je otevřený, ale zatím není připraven pro plné nasazení.



Zdroj

umělá inteligence
AI agenti
bezpečnost
  • Pro vkládání komentářů se musíte přihlásit

Běží na Drupalu

Powered by Drupal