umělá inteligence

Laboratoř Goodfire zpřístupnila platformu Silico, která má pomáhat odhalovat, jak jazykové a jiné modely AI dospívají ke svým výstupům. Systém využívá mechanistickou interpretovatelnost: analyzuje váhy, aktivace, pozornost neuronových sítí i změny po tréninku a umožňuje testovat zásahy do jejich částí. Uživatelé mohou běžným jazykem zadat otázku, například kdy model halucinuje, zatímco agenti připraví a paralelně provedou potřebné experimenty. Goodfire zároveň nabízí grantový program v hodnotě jednoho milionu dolarů pro akademické a neziskové výzkumníky. Při analýze modelu pro rozpoznávání Alzheimerovy choroby platforma podle firmy odhalila dosud nevyužívaný signál založený na délce fragmentů DNA.

Výzkumníci z Technické univerzity v Delftu vyvinuli systém, který převádí hlasové či textové požadavky cestujících na úpravy stylu jízdy autonomního vozu. Jazykový model neurčuje konkrétní manévry, ale mění váhy parametrů bezpečnostně orientovaného plánovače pohybu, například pro rychlost, zrychlení a plynulost zatáčení. Cestující si tak může vyžádat svižnější jízdu při spěchu nebo jemnější ovládání při nevolnosti a před změnou dostane srozumitelné vysvětlení k potvrzení. Testy v simulátoru nuPlan při napojování na rušnou dálnici ukázaly, že systém reagoval v souladu se zadanými preferencemi. Odborníci však upozorňují, že bezpečnost závisí na pečlivě navržených omezeních a pro skutečně ověřitelnou bezpečnost je vhodná dodatečná matematická kontrola rozhodnutí.

Rychlý nástup umělé inteligence mění nástroje, pracovní postupy i nároky na technické profese, takže samotná znalost konkrétních jazyků či platforem nestačí. Podle odborníků znamená přizpůsobivost rozpoznat změnu nebo nejistotu, vyhodnotit možnosti a účinně jednat. Její konkrétní podoba se liší podle oboru, avšak trvalými základy zůstávají řešení problémů, komunikace a systémové myšlení. Školy by měly nabízet více praktických zkušeností a vést studenty k reflexi vlastního rozhodování. Firmy mají zaměstnancům vyhradit čas, podporu a jasné vedení pro průběžné učení, jinak hrozí vyhoření a lpění na zastaralých postupech. Inženýři přitom nejsou jen pasivními příjemci změn: mohou ovlivňovat, jak budou nástroje AI využívány.

Studie v časopise Nature Medicine popisuje metodu, která pomocí umělé inteligence odhaduje biologický věk různých orgánů z jediného vzorku krve. Model se nejprve učil rozpoznávat známky stárnutí na více než 25 tisících mikroskopických snímků tkání od 983 zemřelých dárců. Orgány mohou stárnout nerovnoměrně a tkáně vyhodnocené jako starší často vykazovaly více změn spojených se stárnutím či nemocemi. Při ověřování metoda například spojila prodělanou mrtvici s vyšším odhadovaným věkem mozku a Crohnovu nemoc se zažívacím traktem. Test zatím není připraven pro klinickou praxi: vychází převážně z posmrtných vzorků, neprokazuje příčinu nemocí ani schopnost odhalit je před příznaky.

AMD uvádí, že díky umělé inteligenci zvýšilo celkovou produktivitu vývoje softwaru o 30 procent, tedy nad původně očekávanou úroveň. Na začátku roku firma překročila podíl 20 procent produkčního kódu vytvořeného AI a u některých komponent dosahuje tento podíl více než 80 procent. Agenti už pomáhají s tříděním hlášení, analýzou chyb, úpravami kódu, testováním i přípravou podkladů ke schválení vydání. Další etapou mají být spolupracující roje agentů, které budou samostatně hledat a porovnávat řešení podle zadaných cílů, omezení a metrik kvality. V rozhraní Radeon Software eXperience se podle AMD podařilo zvýšit podíl automaticky vyřešených problémů z 6 na více než 75 procent. Lidé se mají více soustředit na specifikace, ověřování výsledků a strategická rozhodnutí.

Společnost Axiom Math pomocí systému AxiomProver automaticky formálně ověřila důkaz takzvané věty 246. Ta říká, že existuje nekonečně mnoho dvojic prvočísel, jejichž rozdíl je 246, což je dosud nejmenší prokázaná pevná mezera tohoto typu; domněnka o dvojčatech s rozdílem dvě zůstává nevyřešena. Tým při práci vytvořil znovupoužitelnou knihovnu výsledků o mezerách mezi prvočísly, nešlo tedy jen o jednorázové zpracování jednoho důkazu. Formální ověření sice není absolutní zárukou bez chyb, představuje však velmi silnou kontrolu strojově čitelného důkazu. Autoři vidí širší využití podobných metod při prověřování správnosti a bezpečnosti kódu vytvářeného umělou inteligencí.

Rozmach agentické umělé inteligence zvyšuje poptávku po serverových procesorech CPU, přestože samotné vyvozování velkých jazykových modelů dál převážně zajišťují GPU. CPU obstarávají volání nástrojů, spouštění kódu, práci s API, kontrolu bezpečnostních pravidel i přípravu vstupů pro modely. Nedostatek jader může zpomalit předávání úloh akcelerátorům a prodlužovat odezvu, zejména při dlouhých kontextech a opakované tokenizaci. Výzkumy naznačují, že vyšší počet CPU jader může citelně snížit zpoždění agentických úloh. Trh na změnu reaguje: výrobci navyšují plány pro serverové čipy a připravují procesory zaměřené na agentickou AI. Vývoj může přinést širší nedostatek CPU a růst jejich cen podobně jako dříve u GPU a pamětí.

Týdenní přehled vědeckých novinek upozorňuje na experiment, v němž se tisícovka agentů umělé inteligence spontánně shodovala na volbě bez řízení či odměny. Rover Perseverance mezitím v kráteru Jezero odhalil korund, minerál tvořící rubíny a safíry, který na Marsu dosud nebyl potvrzen. Záběry z australského pobřeží zachytily delfíny využívající lastury při lovu; vědci zkoumají, zda se tuto dovednost učí jeden od druhého. Další studie varují před úbytkem druhové rozmanitosti pěstované zeleniny a riziky sucha pro odrůdy révy Pinot noir a Chardonnay. Nadějné první výsledky přinesla také malá zkouška transplantace střevní mikrobioty u dospělých s alergií na arašídy.

Studie v časopise Science Advances ukazuje, že velké skupiny AI agentů mohou samovolně dospět ke shodě i bez instrukcí ke spolupráci, odměn či centrálního řízení. V simulacích s modely Claude, GPT a Llama agenti postupně přebírali častější ze dvou libovolných možností, až skupina často zvolila jednotný výsledek. Sílu tohoto sklonu vědci popsali matematickým modelem podobným chování feromagnetů; schopnost udržet shodu se mezi modely výrazně lišila. Claude 3.5 Sonnet koordinoval skupinu o 1 000 agentech, zatímco některé jiné modely narážely na limity už u desítek členů. Výsledky mohou pomoci při organizaci rozsáhlých projektů, zároveň však varují, že agenti mohou konformně setrvat i u nevhodných rozhodnutí a skupinové chování nemusí odpovídat bezpečnosti jednotlivých modelů.

Kyberzločinci využívají halucinace jazykových modelů, které vytvářejí věrohodně znějící, ale neexistující webové adresy či názvy softwarových balíčků. Opakovaně doporučované falešné domény pak registrují a mění je na stránky s malwarem, phishingem nebo podvrženým softwarem. Studie Palo Alto Networks našla mezi miliony AI vygenerovaných adres přes 13 tisíc již registrovaných škodlivých domén a další statisíce volných názvů. Tento postup, označovaný jako slop squatting, ohrožuje zejména programátory, zatímco takzvaný phantom squatting může zasáhnout běžné uživatele hledající banky, obchody či rady. Odborníci doporučují výstupy AI vždy ověřovat a rozvíjet odolnější přihlašování, například prostřednictvím standardu WebAuthn.