Laboratoř Goodfire zpřístupnila platformu Silico, která má pomáhat odhalovat, jak jazykové a jiné modely AI dospívají ke svým výstupům. Systém využívá mechanistickou interpretovatelnost: analyzuje váhy, aktivace, pozornost neuronových sítí i změny po tréninku a umožňuje testovat zásahy do jejich částí. Uživatelé mohou běžným jazykem zadat otázku, například kdy model halucinuje, zatímco agenti připraví a paralelně provedou potřebné experimenty. Goodfire zároveň nabízí grantový program v hodnotě jednoho milionu dolarů pro akademické a neziskové výzkumníky. Při analýze modelu pro rozpoznávání Alzheimerovy choroby platforma podle firmy odhalila dosud nevyužívaný signál založený na délce fragmentů DNA.
- Pro vkládání komentářů se musíte přihlásit