Dilema vyučování etiky autům s vlastním pohonem | doug newcomb

Trvalo dlouho, než se v autosedačce Google trvalo minulý týden, než si uvědomil, že tato technologie není jen připravená na cestu, ale v některých případech činí lepší rozhodnutí než řidiči lidí - například zpomalení a poddajnost pro cyklisty.

Abychom však mohli dělat více než jen plazit se po ulicích města, bude muset autonomní technologie učinit druh kritických rozhodnutí, která jsou pro zkušené lidské řidiče druhou přirozeností. A možná bude muset jednat o etických dilematech stejně jako o složitých jízdních situacích.

Jako příklad lze uvést, že technologie s vlastním pohonem přidává nový směr ke staletému filozofickému dilematu známému jako „problém s vozíkem“. V tomto scénáři se člověk musí rozhodnout, zda přitáhne páku na křižovatce Y a přejede přes jednu osobu, která je vázána na stopu, aby zachránila pět osob vázaných na sousední stopu.

U aut s vlastním pohonem to bylo přepracováno jako „problém s tunelem“. Představte si, že autonomní vozidlo jede po jednosměrné horské silnici a chystá se vstoupit do tunelu, když dítě neúmyslně přejde na svou cestu těsně uvnitř vchodu, takže auto musí učinit druhé vteřinové rozhodnutí. Pokračuje to rovně a zasáhne dítě? Nebo se to zamotá a zasáhne tunel, zraní nebo zabije cestující v autě?

Den poté, co jsem se projel autem s vlastním pohonem od společnosti Google v Mountain View v Kalifornii, jsem se zúčastnil akce v severoamerickém výzkumném a vývojovém středisku Mercedes-Benz v nedalekém Sunnyvale. Mezi několika tématy během dne přednesl profesor Stanford a vedoucí univerzitního programu Revs Chris Gerdes prezentaci, která se ponořila do tématu etiky a autonomních automobilů.

Gerdes odhalil, že Revs spolupracuje s Stanfordovým filosofickým oddělením na etických otázkách týkajících se autonomních vozidel, zatímco univerzita také zahájila řadu testů, aby určila, jaké druhy rozhodnutí robotické auto může učinit v kritických situacích.

Když filozofie vezme kolo

V rámci své prezentace Gerdes zdůvodnil, proč potřebujeme filozofy, kteří nám pomohou tyto problémy studovat. Poukázal na to, že etické problémy s autem s vlastním pohonem jsou pohyblivým cílem a „nemají žádné limity“, i když je na inženýrech, aby „problém spojili“.

Aby to bylo provedeno a posunula se etika technologie autosedačky za pouhou akademickou diskuzi, Revs provádí experimenty se Stanfordovým testovacím vozidlem x1 tím, že na silnici umisťuje překážky. Poznamenal, že umístění různých priorit do softwarového programu vozidel vedlo k „velmi odlišnému chování“.

Gerdes tvrdil, že toto vznikající etické programování samohybného softwaru by se mohlo stát „základním požadavkem“ pro tuto technologii - a ne něco, o čem se jen diskutuje ve věžích ze slonoviny. A dodal, že etika není něco, co mohou výrobci automobilů získat od dodavatele „úrovně 1“, jako je například palivové čerpadlo nebo obrazovka v palubní desce. Nedávný skandál VW Dieselgate to určitě ukázal.

Zkušení řidiči lidí jsou už léta naprogramováni tak, aby se vypořádali s rozhodnutími o vteřinách - a stále ne vždy dělají ta pravá. Ale poté, co jsem viděl, jak vozidla s vlastním řízením Google reagují na každodenní rozhodnutí, a když jsem slyšel o práci, kterou provádí Stanford Revs a oddělení filozofie školy, vsadím se, že auta nakonec učiní chytřejší rozhodnutí.