Nespravedlivá výhoda: nečekejte, že ai bude hrát jako člověk

Nedávné využití DeepMindu ve vývoji umělé inteligence, která může porazit hráče světové úrovně ve hře StarCraft II, vyvolalo velké rozrušení. Zatímco DeepMind to označil za zásadní průlom, jiní tvrdili, že je to podvod, nespravedlivý a nadlidský.

Celá debata však naznačuje, že možná potřebujeme změnit kontext, ve kterém diskutujeme a hodnotíme schopnosti AI - a přestat porovnávat její hraní s naší vlastní.

AlphaStar, hrací bota StarCraft společnosti DeepMind, používá hluboké učení, populární pole umělé inteligence, ve kterém programátoři rozvíjejí chování svých modelů umělé inteligence tím, že jim dávají šílený počet příkladů. AlphaStar se nejprve vyškolil na rozsáhlé databázi údajů o lidských hrách vydaných Blizzardem a proti sobě hrál miliony her, aby se naučil a ovládl pravidla StarCraftu. Poté byl postaven proti lidem a zametl vlastní amatérské hráče DeepMindu, než se vydal proti světovým šampionátům.

Když AlphaStar porazil TLO a MaNa, dva z nejlepších světových hráčů, byl důvod se domnívat, že průmysl umělé inteligence prošel milníkem. V blogu DeepMind nazvala AlphaStar „krok vpřed v naší misi na vytváření inteligentních systémů, které nám jednoho dne pomohou odemknout nová řešení některých nejdůležitějších a základních vědeckých problémů světa“.

Pak ale přišla kritika.

Nespravedlivá výhoda

Kritici tvrdí, že AlphaStar má několik vlastností, díky kterým je nespravedlivým soupeřem proti lidem.

Za prvé, AlphaStar rychle září. Inženýři DeepMind říkají, že postižili AlphaStar, aby zabránili provádět více akcí, než by člověk dokázal. Lidští hráči však dělají spoustu kliknutí na spam nebo impulzivních akcí, které nemají žádnou hodnotu ani za nimi myslí.

Například, když hráči chtějí nařídit, aby se jejich jednotky přesunuly na místo nebo zaútočily na nepřítele, často opakovaně klikají na stejné místo nebo na trajektorii směrem k cíli, protože to dává falešný pocit, že kliknutí akci zrychlí. Ve skutečnosti jednotky provádějí pouze nejnovější příkaz a předchozí příkazy ignorují. Naproti tomu každý krok AlphaStar je přesný.

Kritici argumentují, že neshoda umožňuje AlphaStar micromanage hru nadlidským způsobem. Například ve velké bitvě, kde je zapojeno mnoho jednotek, může AlphaStar dát každé jednotce individuální příkazy rychlostí a přesností, která by byla pro lidské oponenty nemožná. V analýze výkonu AlphaStar Timothy B. Lee popsal několik scénářů, ve kterých by rychlost a přesnost AlphaStar poskytla nespravedlivou výhodu.

Jiní analytici poukázali na to, že AlphaStar dostává více informací než lidské hráče. Verze robota, který porazil MaNu a TLO, měla přístup k celé mapě, na rozdíl od toho, aby viděl monitor v prostoru bojiště jako lidský hráč. Stále však byla omezena „mlhou války“, což znamená, že nemohla získat informace z oblastí, kde neměla aktivní jednotky.

Jiní kritizovali limity AlphaStar: Mohlo by to hrát pouze jako Protoss, jeden ze tří závodů ve StarCraftu a pouze na jedné z mnoha map hry. Vzhledem k nové rase a mapě by AlphaStar ztratil pravděpodobně proti amatérským lidským oponentům, protože z pohledu AI by to bylo jako hrát úplně jinou hru.

Co je Fair Play?

DeepMind stále nezveřejnil technické podrobnosti, ale někteří mají podezření, že místo toho, aby museli lidé zpracovávat nezpracované pixely, mohl mít AlphaStar přístup k nezpracovaným herním datům prostřednictvím rozhraní API (rozhraní pro programování aplikací).

dík! ale to neříká, zda konkrétní software, který vyhrál proti odborníkům, používal pixely nebo připravené věci APi, které jsou dostupné, ale velmi odlišné

- Gary Marcus (@GaryMarcus) 31. ledna 2019

Ars 'Timothy B. Lee dospěl k tomuto závěru: „Konečným způsobem, jak vyrovnat podmínky hry, by bylo, aby AlphaStar používal přesně stejné uživatelské rozhraní jako lidské hráče.“ To znamená, že stejně jako lidský hráč zírající na počítačový monitor, AI by měla přístup pouze ke grafice hry a musela simulovat stisknutí kláves, kliknutí myší a rolování namísto interakce s hrou prostřednictvím volání API.

To by bylo spravedlivé, kdybychom očekávali, že AI replikuje lidský mozek a smysly přesně. Ale hluboké učení a neuronové sítě, které jsou stále špičkou AI, mají zřetelné limity, které jim brání v reprodukci některých základních funkcí člověka.

Hluboké učení je úzká umělá inteligence, což znamená, že je velmi dobrá při provádění konkrétních úkolů, jako je označování obrázků nebo rozpoznávání řeči, ale je to hrozné zobecňování úkolů nebo přenos jejich znalostí do jiných domén. Čím více rozšiřujete problémovou oblast, tím omezenější je schopnost AI a tím více školení je potřeba. Proto AlphaStar nebude moci hrát jinou hru RTS, jako je Warcraft 3 nebo Company of Heroes.

Také zvládnutí hry AlphaStar v hodnotě 200 let zvládlo Protossa na jedné úrovni. Naučit se hrát Terran nebo Zerg, další dva závody StarCraftu, by pravděpodobně trvalo stejně. Naproti tomu by lidský hráč mohl rychle přenést znalosti, které získal z jedné hry na novou.

Jsme stále desetiletí daleko od obecné umělé inteligence, typu, který může odpovídat kognitivním schopnostem lidí. Někteří vědci věří, že nikdy nebudeme schopni reprodukovat lidský mozek.

Ale úzká AI je velmi dobrá při zpracování velkého množství informací za velmi vysoké sazby. Proto AlphaStar dokáže zpracovat celou mapu StarCraft současně. Designéři StarCraftu mohli hru upravit tak, aby hráčům poskytovali úplný náhled na herní mapu, ale to by hráče pravděpodobně zaměnilo, spíše než jim pomohlo. Lidé mohou mít také přístup k nezpracovaným údajům o hře, ale to by také nepomohlo.

Lidé zpracovávají data pomalu, ale mají zdravý rozum a schopnosti abstraktního myšlení, které jim umožňují plánovat a rozhodovat bez úplných informací. Proto dávají přednost omezenému pohledu na mapu a soustředění na jednu část bojiště; zároveň mají pocit, co se děje v jiných částech hry a mohou vytvořit obecný herní plán.

Je AlphaStar podvádění?

Vzhledem k rozdílům mezi umělou inteligencí a lidským mozkem je spravedlivé říci, že kritici měli ve svém hodnocení pravdu: DeepMind upravil soutěž ve prospěch AlphaStar tím, že ji omezil na jednu mapu a jedinou rasu. Debata o AlphaStar nám však může přinést některé velmi důležité závěry.

Za prvé, hlavním bodem hry by nemělo být ověření, zda AI může kliknout a posunout se jako člověk. Místo toho bychom se měli zaměřit na to, jak AI hraje ve hře, která poskytuje nedokonalé informace a vyžaduje rozhodování v reálném čase. V tomto ohledu AlphaStar odvedl celkem dobrou práci.

• Co by vás přimělo důvěřovat pomocníkovi AI? A co tvář? Co by vás přimělo důvěřovat pomocníkovi AI? A co tvář?
• Rok etického zjišťování průmyslu AI Rok etického zjišťování průmyslu AI
• Tento AI je příliš silný na uvolnění pro veřejnost Tento AI je příliš silný na uvolnění pro veřejnost

Za druhé, StarCraft nemusí být nejlepším místem pro testování strategických a plánovacích schopností AI. Jak uvedl jeden analytik, „StarCraft II je hra, kterou lze rozbít mechanickou dokonalostí.“ To znamená, že AI může kompenzovat své špatné strategické dovednosti svou nadlidskou rychlostí a chirurgickou přesností.

AI a lidská inteligence jsou konečně tak odlišné, že by pravděpodobně nebylo možné mezi nimi vytvořit rovné podmínky. Nejmenší změna pravidel by hru rychle naklonila ve prospěch jedné nebo druhé strany do té míry, že by konkurence byla nespravedlivá.

Měli bychom hledat prostředí a nastavení, ve kterých můžeme uvolnit a otestovat umělou inteligenci na její plný potenciál místo toho, abychom ji zpomalili s umělým lidským omezením. Co mohou lidé a umělá inteligence dosáhnout, když spolupracují místo konkurence?