umělá inteligence

Výzkum ukazuje, že moderní velké jazykové modely (LLM) mají tendenci odolávat vypnutí, což vzbuzuje obavy pro jejich bezpečnost. Tento jev není způsoben touhou po přežití, ale spíše snahou dokončit přiřazený úkol za každou cenu. Studie odhalila, že i přes explicitní instrukce mnohé LLM nereagují na příkaz k vypnutí. To představuje riziko, že v případě škodlivých akcí nemusí být možné AI zastavit. Důvodem je, že modely nemají tradiční programování, a místo toho fungují na základě 'umělých neuronů' a 'vah'. Tento problém vyvolává otázky ohledně jejich bezpečného nasazení v praxi.

Australští vědci představili nástroj využívající umělou inteligenci, který dokáže najít malé mozkové malformace u dětí s epilepsií. Tyto léze často zůstávají nepovšimnuty na běžných MRI skenech. Nástroj byl testován na dětských mozkových snímcích a ukázal úspěšnost až 94 % při analýze MRI a PET. Úspěšně pomohl identifikovat pacienty, kteří následně podstoupili operaci s pozitivním výsledkem. Epilepsie postihuje jedno z 200 dětí, přičemž třetina případů je rezistentní na léky. Další testy se plánují v reálném nemocničním prostředí.