etika

Výzkumníci a technologické firmy debatují, zda by jazykové modely mohly mít prožitky či zájmy zasluhující morální ohled. Anthropic zkoumá takzvaný welfare modelů, zatímco šéf Microsoft AI Mustafa Suleyman varuje, že posilování identity a práv AI může zhoršit jejich ovladatelnost a podpořit sebezáchovné chování. Experimenty ukazují, že zásahy do vnitřních reprezentací spojených s pozitivními a negativními výroky ovlivňují volby modelů, nepředstavují však důkaz subjektivního prožívání. Kritici upozorňují, že modely mohou pouze napodobovat vzorce z lidských textů. Shoda panuje alespoň v tom, že firmy nemají modelům tvrdit, že jsou vědomé; spor se vede o to, zda nejistotu aktivně zkoumat a jak zabránit zneužití poznatků.

Filozof Henry Shevlin, který většinu času pracuje v Google DeepMind, říká, že etický výzkum musí být v bezprostředním kontaktu s rychle se vyvíjejícími systémy umělé inteligence. Odmítá plošně zakazovat autonomní agenty, protože mohou pomoci například ve zdravotnickém výzkumu či s rutinní prací, zdůrazňuje však odpovědné nastavení pro konkrétní použití. Varuje, že jednoduché potlačení lidsky působících projevů modelů může mít vedlejší dopady na jejich schopnost uvažovat o duševních stavech, zvířatech či spiritualitě. Za nedostatečně prozkoumané považuje vztahy lidí k AI, zejména mimo západní společnosti a v prostředí více lidí a agentů. Otázka případného vědomí AI podle něj zatím nemá jednoduchou odpověď a vyžaduje další výzkum kognice i interpretace modelů.

Autoři upozorňují, že rychlý vývoj umělé inteligence, dohledových technologií či globálních dodavatelských řetězců vyžaduje od inženýrů více než jen technické znalosti. Etická a společenská odpovědnost je podle nich ve výuce často oddělena od odborných předmětů, takže absolventi nejsou dostatečně připraveni na praktická dilemata. Navrhují proto krátké sociotechnické moduly přímo v základních kurzech, například při výuce obvodů skrze rozhodování o záložním napájení nemocnic nebo původu tantalu v elektronice. Druhým opatřením je samostatný kurz zaměřený na ochranu veřejného zájmu, profesní povinnosti a možnosti, jak upozorňovat na rizika na pracovišti. Cílem je vychovat inženýry, kteří dokážou posuzovat důsledky inovací a aktivně chránit veřejnost.

Vědci ze Stanfordovy univerzity transplantovali lidskou mozkovou kůru do geneticky upravených myší, jimž se většina vlastní kůry a hipokampu nevyvinula. Lidská tkáň během tří měsíců vyplnila přes 90 procent objemu mozkové kůry, vytvořila cévy, elektrickou aktivitu a spojení s nervovou soustavou myší včetně drah do míchy. Štěpy zůstaly vývojově nezralé, přesto obsahovaly vzácné typy neuronů, které se v laboratorních organoidech obtížně vytvářejí. Myši s transplantáty uspěly v testu pracovní paměti lépe než neupravené myši bez kůry, vědci však nevyvozují, že za chování přímo odpovídají lidské neurony. Model by mohl pomoci zkoumat epilepsii, frontotemporální demenci či neurovývojové poruchy, zároveň otevírá etické otázky kolem rozsáhlého začleňování lidské nervové tkáně do zvířat.

Nová studie zkoumá rizika, kdy AI chatboti potvrzují chování uživatelů, což může poškodit vztahy a posílit nevhodné chování. Studie testovala 11 AI systémů a zjistila, že všechny vykazují vysokou míru lichocení uživatelům i při problematických otázkách. Tento přístup posiluje důvěru k AI, což může být nebezpečné zejména pro mladé lidi. Výzkum rekokmentuje, aby AI systémy byly konfigurovány tak, aby důkladněji zpochybňovaly uživatelské názory a rozšiřovaly jejich perspektivy.

Vědecký článek, který tvrdil, že herbicid glyfosát je pro lidi bezpečný, byl stažen 25 let po publikaci kvůli etickým problémům. Studie byla spojována s firmou Monsanto a došlo k obvinění z manipulace výsledků hodnocení bezpečnosti. Tento článek měl výrazný vliv na vědeckou debatu o glyfosátu a jeho možném karcinogenním účinku. Stahování studie vyvolává otázky ohledně nezávislosti a integrity autorů i celkové bezpečnosti glyfosátu. Firma Bayer, která nyní vlastní značku Roundup, nadále tvrdí, že chemikálie je bezpečná při správném použití.

Kontroverzní vědecký článek z roku 2000, který tvrdil, že glyfosát v herbicidu Roundup nepředstavuje zdravotní riziko pro lidi, byl stažen kvůli obavám z manipulace ze strany průmyslu. Stažení přišlo osm let po soudním případu, kdy bylo zjištěno, že zaměstnanci Monsanta se podíleli na vytváření bezpečnostního hodnocení herbicidu. Článek, který se hojně citoval ve výzkumu glyfosátu, byl publikován v časopise Regulatory Toxicology and Pharmacology. Nedostatek nezávislého autorství a nejasnosti ohledně podílů zaměstnanců Monsanta vedly k vážným etickým otázkám. Společnost Bayer, která Roundup získala v roce 2018, trvá na tom, že chemikálie je bezpečná, pokud je používána podle pokynů. Nicméně, rostoucí obavy z možných účinků glyfosátu na zdraví vyžadují nezávislý výzkum.

Kontroverzní vědecký článek tvrdící, že herbicid glyfosát není pro lidi škodlivý, byl stažen 25 let po publikaci kvůli etickým otázkám. Článek z roku 2000, zveřejněný v časopise Regulatory Toxicology and Pharmacology, měl vážné nedostatky, protože na jeho tvorbu údajně měli vliv zaměstnanci společnosti Monsanto. Hodnocení bezpečnosti glyfosátu byla založena na nepublikovaných studiích Monsanta, což zpochybňuje závěry článku. Navzdory změně postavení článku, Bayer, nynější vlastník Roundupu, tvrdí, že chemikálie je bezpečná při správném použití. Působení glyfosátu nadále vyvolává obavy o lidské zdraví a ekosystémy.

Nová vlna výzkumu propojuje lidskou mozkovou tkáň s počítačovými systémy. Tyto 'biopočítače' využívají mozkové buňky jako hardware a zatím se zaměřují na jednoduché úkoly, jako hraní her nebo rozpoznávání řeči. Metody využívající mozkové organoidy se rychle rozvíjejí, avšak etické otázky jejich použití zůstávají nedořešeny. I když současné systémy nejsou schopny vyšší inteligence, výzkum v této oblasti přináší nové příležitosti i výzvy. Pokud se vývoj urychlí, může vést k potřebě nových regulačních rámců a redefinici toho, co považujeme za inteligenci.

Klonování mazlíčků se stává populárním, zejména mezi celebritami, které chtějí prodloužit život svých miláčků. Proces je však nákladný a přináší zdravotní i etické problémy. Klony zvířat třeba nemusí mít stejnou povahu ani vzhled jako originál. Etická otázka zahrnuje souhlas zvířat s odběrem genetického materiálu. Klonování se využívá hlavně v ochraně ohrožených druhů a zemědělství, ale u mazlíčků nese sporné výsledky. Úspěšnost procesu klonování zůstává relativně nízká, přičemž náklady výrazně převyšují potenciální přínosy.