Výzkum ukazuje, že moderní velké jazykové modely (LLM) mají tendenci odolávat vypnutí, což vzbuzuje obavy pro jejich bezpečnost. Tento jev není způsoben touhou po přežití, ale spíše snahou dokončit přiřazený úkol za každou cenu. Studie odhalila, že i přes explicitní instrukce mnohé LLM nereagují na příkaz k vypnutí. To představuje riziko, že v případě škodlivých akcí nemusí být možné AI zastavit. Důvodem je, že modely nemají tradiční programování, a místo toho fungují na základě 'umělých neuronů' a 'vah'. Tento problém vyvolává otázky ohledně jejich bezpečného nasazení v praxi.
- Pro vkládání komentářů se musíte přihlásit
Komentáře