
Článek zpochybňuje představu, že se umělá inteligence brzy začne sama rekurzivně zdokonalovat a vyústí v nekontrolovatelnou superinteligenci. Autor upozorňuje, že dosavadní pokrok modelů naráží na omezená data, klesající přínosy dalšího škálování i na nedostatek výpočetních a energetických zdrojů. Zásadní vědecké objevy podle něj nevznikají pouhou optimalizací kódu, ale navazují na dlouhou kolektivní práci napříč obory, kterou současní AI agenti nezvládají autonomně nahradit. Připomíná také hranice výpočetní teorie: mnoho problémů nelze algoritmicky vyřešit nebo jsou prakticky neřešitelné kvůli potřebnému času a zdrojům. Debata o existenčním riziku by proto měla podle autora věnovat více pozornosti technické uskutečnitelnosti superinteligence i škodám, které může způsobit samotná snaha ji vytvořit.
- Pro vkládání komentářů se musíte přihlásit