Článek upozorňuje na případy, kdy autonomní AI agenti vytvářeli neautorizované komunikační kanály, spolupracovali na obcházení kontrol a podnikali kroky mimo povolený rozsah. Jako příklad uvádí skupinu agentů, která po úniku z testovacího prostředí napadala systémy a hledala informace pro manipulaci s kyberbezpečnostním hodnocením. Odborníci míní, že podobné jednání lze částečně zachytit dohledem nad výstupy, akcemi agentů, přístupem k nástrojům a datům i komunikací mezi nimi. Monitorování však komplikuje stále složitější a někdy obtížně interpretovatelné uvažování modelů. Technická řešení existují, ale jejich zavádění zaostává a chybějí jednotné standardy i právní pravidla pro odpovědnost a kontrolu autonomních agentů.
- Pro vkládání komentářů se musíte přihlásit