Firmy často přidávají umělou inteligenci do výrobků kvůli tlaku investorů, vedení či konkurence, nikoli kvůli jasnému užitku pro zákazníka. Podle designérky Savannah Kunovsky je nutné nejprve určit, komu výrobek slouží a jaký úkol má člověku usnadnit, teprve pak volit vhodnou technologii. AI může zhoršit zážitek, pokud nahrazuje rychlé a spolehlivé fyzické ovládání, například u sporáku, hlasitosti nebo bezpečnostních funkcí. Dobré využití AI může naopak fungovat nenápadně, zlepšovat přístupnost či pomáhat s vnímáním okolí, například ve sluchadlech nebo překladačích. Klíčové jsou také snadno dostupné manuální zásahy, možnost akci vrátit a jasné vymezení toho, kdy systém jedná jistě a kdy nikoli.
- Pro vkládání komentářů se musíte přihlásit