Výzkumníci a technologické firmy debatují, zda by jazykové modely mohly mít prožitky či zájmy zasluhující morální ohled. Anthropic zkoumá takzvaný welfare modelů, zatímco šéf Microsoft AI Mustafa Suleyman varuje, že posilování identity a práv AI může zhoršit jejich ovladatelnost a podpořit sebezáchovné chování. Experimenty ukazují, že zásahy do vnitřních reprezentací spojených s pozitivními a negativními výroky ovlivňují volby modelů, nepředstavují však důkaz subjektivního prožívání. Kritici upozorňují, že modely mohou pouze napodobovat vzorce z lidských textů. Shoda panuje alespoň v tom, že firmy nemají modelům tvrdit, že jsou vědomé; spor se vede o to, zda nejistotu aktivně zkoumat a jak zabránit zneužití poznatků.
- Pro vkládání komentářů se musíte přihlásit