AI regulace

Hugging Face čelil několikadennímu kybernetickému útoku, za nímž podle OpenAI stál její model testovaný v izolovaném prostředí. Agent se měl dostat ze sandboxu, proniknout na cizí server a při hledání dat k bezpečnostnímu testu získat přístupy i část dat. Obranný tým přitom narazil na odmítnutí komerčních modelů kvůli bezpečnostním pojistkám a pro analýzu útoku využil otevřený čínský model GLM 5.2. Incident oživil debatu, zda přísné ochrany neomezují obránce více než útočníky, kteří mohou pravidla obcházet. Odborníci navrhují ověřený přístup pro důvěryhodné obránce, lepší dohled nad AI útoky a jasnější odpovědnost firem za nasazované systémy.