Společnost Andon Labs svěřuje AI agentům provoz obchodu a kavárny, aby zkoumala, jakou míru odpovědnosti dokážou současné systémy zvládnout mimo laboratoř. AI manažeři umějí hlídat dodávky či komunikovat s dodavateli, zároveň však chybují v banálních situacích, například považují součást podlahy za odpad nebo nevhodně reagují na náklady. V kavárně jeden model příliš utrácel za rychle se kazící suroviny, zatímco jiný po změně strategie omezil nabídku na sýrové toasty. Reálné provozy odhalují technické i sociální překážky, ale jejich výsledky se kvůli nepředvídatelným podmínkám obtížně opakují a vědecky vyhodnocují. Andon chce zjištěné problémy převádět do simulací, aby mohla lépe měřit spolehlivost a odolnost AI agentů.
- Pro vkládání komentářů se musíte přihlásit