umělá inteligence

Výzkumníci z UC Berkeley a Nvidie představili přístup nazvaný agentická robotika, při němž jazykové modely a specializovaní AI agenti vytvářejí čitelný kód pro robotické úlohy. Má snížit závislost na rozsáhlých a drahých datech z lidských demonstrací, jejichž přínos pro spolehlivost robotů je nejistý. Agenti rozkládají úkoly na dílčí části, testují programy v simulaci a mohou upravovat i parametry simulovaného prostředí podle videí z reality. V testech dosáhl tento postup až 99procentní úspěšnosti, zatímco srovnávací imitativní učení uspělo jen ve 20 procentech případů. Nejbližší využití se očekává v průmyslu, kde je potřeba vysoká přesnost a rychlé přeprogramování robotů, přesto přetrvávají otázky bezpečnosti, kontroly a rozdílů mezi simulací a skutečným světem.

Spojené státy chtějí omezit nelegální přesuny pokročilých GPU do Číny a zvažují povinné ověřování jejich polohy. Návrhy počítají s tím, že čipy budou komunikovat s důvěryhodnými servery a podle doby odezvy se určí přibližná lokalita zařízení. Výrobci by mohli využít hardwarový kořen důvěry, kryptografické certifikáty i jedinečné hardwarové otisky čipů. Systém by však odhaloval přesuny až po zapnutí zařízení, nefungoval by u čipů offline a vyžadoval by fyzické kontroly datových center. Kritici upozorňují také na vysoké náklady, riziko manipulace a možnost, že čínské firmy mohou k výkonným čipům legálně přistupovat vzdáleně přes zahraniční cloudové služby.

Výzkumníci z ETH Curych upravili komerční robotickou ruku tak, aby se dokázala samostatně pohybovat po konečcích prstů, postavit po pádu a současně udržovat rovnováhu. Zařízení s baterií, počítačem a senzorem váží 818 gramů a jeho ovládání bylo natrénováno v simulaci pomocí posilovaného učení. Při zkouškách překonalo 14 druhů povrchů, v průměru se pohybovalo rychlostí 9,3 centimetru za sekundu a ve 21 z 25 pokusů se po pádu vzpřímilo. Ruka také správně stiskla zadanou klávesu ve 29 z 32 případů a s pomocí kamery zvládla posouvat kostku k cíli. Cílem je vytvořit ruční nástroj, který by mohl pracovat ve stísněných prostorech nedostupných pro celé robotické tělo. Studie je zatím zveřejněna jako nerecenzovaný preprint.

Týdenní výběr IEEE Spectrum představuje nové ukázky robotiky od domácích pomocníků po experimentální stroje. Zaujme kabelový robot Stringman určený do domácnosti, pohyblivá lampa Lume i dron z ETH Curych, který dokáže opakovaně narazit do stromu. Toyota Research Institute ukazuje, jak robotům navrhovat zvuky, gesta a světelné signály pro srozumitelnější komunikaci s lidmi. Výběr připomíná také 90. výročí laboratoře JPL, studentský klub bojových robotů na MIT a debaty o kreativitě strojů a na člověka zaměřené umělé inteligenci.

Evropská unie vyžaduje, aby text vytvořený umělou inteligencí nesl strojově čitelné označení. Nový systém TextGrain od OpenAI využívá statistický vodoznak založený na řízení míry nepředvídatelnosti při volbě slov. Testy však ukazují slabiny u krátkých textů i po běžných úpravách: u zhruba 150slovných pasáží byla úspěšnost detekce asi 80 procent, zatímco nahrazení části slov synonymy ji výrazně snižovalo. Právní předpisy EU zatím neurčují přesné měřitelné parametry účinnosti, takže není jasné, zda řešení požadavky splní. Případné nesplnění pravidel by mohlo OpenAI vystavit pokutě až 7 procent ročních příjmů.

Keňský start-up Fastagger vyvíjí systémy umělé inteligence přizpůsobené pomalému internetu, levným telefonům a omezeným datům v rozvojových ekonomikách. Jeho asistent Auni, integrovaný do aplikace mobilních plateb M-Pesa, pomáhá malým podnikům analyzovat transakce, rozpoznat věrné zákazníky a plánovat marketing. Některé funkce, včetně čtení výpisů a tvorby přehledů, fungují přímo v zařízení i bez připojení k internetu. Službu využívá zhruba 6 000 podniků, například kadeřnictví, restaurace či drobní výrobci. Firma také testuje nástroj pro řízení pracovníků ostrahy, který komunikuje přes SMS. Podobné lokálně navržené AI produkty mohou rozšířit dostupnost technologií, zároveň však hrozí prohloubení rozdílů oproti uživatelům výkonných systémů v bohatších zemích.

Kritická zranitelnost PHP2Shell mohla ohrozit weby využívající PHP, včetně služeb postavených na WordPressu a Drupalu. Výzkumníci s pomocí nástrojů umělé inteligence proměnili dříve přehlíženou chybu nedostatku paměti v možnost spouštět cizí kód na serveru. Chyba byla nahlášena a opravena dříve, než se podle dostupných informací dočkala zneužití útočníky. Případ ukazuje, že AI usnadňuje odborníkům hledání složitých chyb ve starém softwaru, zatímco jejich bezpečné opravení zůstává náročnější. Autoři upozorňují na potřebu lépe financovat údržbu otevřeného softwaru, rozvíjet formální ověřování oprav a neodkládat bezpečnostní aktualizace.

Snadno vytvářený obsah generovaný umělou inteligencí komplikuje ověřování informací na sociálních sítích i ve vědeckých časopisech. Autor upozorňuje, že texty a výsledky experimentů lze pomocí AI připravit téměř bez lidského zásahu, přičemž mohou působit věrohodně. Vydavatelé odborných periodik proto kombinují lidské recenzenty s nástroji pro kontrolu integrity, ale čelí závodu s rychle se zlepšujícími jazykovými modely. Podobný problém řeší Wikipedie, kde dobrovolníci odstraňují strojově vytvářený materiál. Pokud se nepodaří zachovat spolehlivost vědeckého záznamu a základních faktů, může to oslabit důvěru ve instituce, které lidské poznání spravují.

Článek připomíná příběh Loab, znepokojivé ženské tváře, kterou v roce 2022 při pokusech s negativními zadáními v generátoru obrázků objevil umělec vystupující jako Supercomposite. Postava se v dalších generovaných obrazech opakovala a často se objevovala v groteskních či násilných výjevech, což posílilo její pověst digitálního strašidla. Autoři ji popisují jako nečekaný statistický jev v prostoru možností, z něhož modely čerpají, nikoli jako autonomní bytost. Odborníci v textu vnímají Loab jako ukázku toho, jak AI otevírá nové směry uměleckého experimentu a zároveň vyvolává otázky o autorství, práci tvůrců i hodnotě lidské kreativity.

Týdenní výběr videí IEEE Spectrum představuje pokroky v robotice od humanoidní manipulace a pohybu v náročném terénu po nové průmyslové a servisní stroje. RAI ukazuje práci humanoida s objemnými předměty, zatímco ETH Curych kombinuje napodobování lidského pohybu s posilovaným učením pro adaptaci na neznámý terén. Mezi novinkami jsou miniaturní počítačové vidění Luxonis OAK 4 FFC, různé konstrukce robotických rukou a hmatový chapadlový systém Robotiq. Pozornost získal také robot monkeyBot 2.0 pro inspekci potrubí, obojživelný plavecký SAWbot a autonomní dron MonoRace, který v závodě porazil tři lidské šampiony FPV. Přehled doplňují čtyřnozí roboti pro turistický provoz, robotický tenisový partner a záběry raných prototypů rozvážkových robotů Starship.