Rok etického počítání průmyslu AI v průmyslu

Od té doby, co hluboké neuronové sítě vyhrály v roce 2012 nejvýznamnější světovou soutěž v oblasti rozpoznávání obrázků, byl každý nadšený tím, co umělá inteligence může uvolnit. Ale v závodě o vývoj nových technik a aplikací umělé inteligence se možné negativní dopady odrazily.

Nyní vidíme posun k většímu povědomí o AI etice. V roce 2018 si vývojáři umělé inteligence uvědomili možné důsledky svých výtvorů. Mnoho inženýrů, výzkumníků a vývojářů dalo jasně najevo, že nebudou stavět technologie, které poškozují nebo poškozují životy nevinných lidí, a drželi své společnosti.

Rozpoznávání obličeje při vymáhání práva

V minulosti bylo vytváření aplikací pro rozpoznávání obličeje náročné, náročné na zdroje a náchylné k chybám. S pokroky v počítačovém vidění - podmnožině umělé inteligence, která umožňuje počítačům rozpoznat obsah obrázků a videa - se však vytváření aplikací rozpoznávání obličeje stalo mnohem snazší a na dosah každého.

Velké technologické společnosti, jako je Microsoft, Amazon a IBM, začaly poskytovat cloudové služby, které umožnily každému vývojáři integrovat technologii rozpoznávání obličeje do svého softwaru. Tím se odemklo mnoho nových případů použití a aplikací v různých doménách, jako je ochrana a ověřování identity, zabezpečení inteligentních domů a maloobchod. Aktivisté v oblasti ochrany soukromí však vyjádřili znepokojení nad možným zneužitím.

V květnu 2018 americká unie pro občanské svobody odhalila, že Amazon uváděl na trh donucovací a vládní agentury Rekognition, real-time video-analytickou technologii. Podle ACLU policie v nejméně třech státech používala Rekognition pro rozpoznávání obličeje při sledování videa.

„S Rekognicí může nyní vláda vybudovat systém pro automatizaci identifikace a sledování kohokoliv. Pokud by například fotoaparáty policejních orgánů byly vybaveny rozpoznáváním obličeje, zařízení určená pro průhlednost a odpovědnost důstojníků by se dále přeměnila na sledovací stroje zaměřené na veřejnost, “varoval ACLU. „Automatizací hromadného dohledu ohrožují tuto svobodu systémy pro rozpoznávání obličeje, jako je Rekognition, které představují zvláštní hrozbu pro společenství, která jsou již v současné politické situaci nespravedlivě zaměřena. Jakmile budou vybudovány a rozmístěny silné systémy dohledu, jako jsou tyto, bude velmi obtížné odstranit škodu.. “

Obavy ACLU se ozývaly zaměstnanci Amazonu, kteří v červnu napsali dopis řediteli společnosti Jeff Bezos a požadovali, aby přestal Rekognici prodávat donucovacím orgánům. "Naše společnost by neměla být v oblasti dohledu; neměli bychom být v policejním podnikání; neměli bychom se zabývat podporou těch, kteří sledují a potlačují marginalizované populace, " číst dopis.

V říjnu anonymní stážista Amazonu zveřejnil, že nejméně 450 zaměstnanců podepsalo další dopis, v němž vyzvalo Bezos a další vedoucí pracovníky, aby přestali Rekognici prodávat policii. „Nemůžeme těžit z podskupiny silných zákazníků na úkor našich komunit; nemůžeme odvrátit naše oči od lidských nákladů našeho podnikání. Nebudeme tiše budovat technologii, která utlačuje a zabíjí lidi, ať už v naší zemi nebo v jiných, " řeklo.

Spad vojenského projektu AI společnosti Google

Zatímco Amazon se vypořádal s tímto vnitřním odporem, Google zažíval podobné boje o smlouvu na vývoj AI pro americkou armádu, dabovanou Project Maven.

Google údajně pomáhal ministerstvu obrany vyvinout technologii počítačového vidění, která by zpracovávala videonahrávky dronů. Množství videozáznamů zaznamenaných drony každý den bylo příliš velké na to, aby si je mohli lidští analytici prohlédnout, a Pentagon chtěl část procesu automatizovat.

Mluvčí společnosti Google, který uznal kontroverzní povahu úkolu, prohlásil, že poskytuje pouze API pro TensorFlow, jeho platformu pro strojové učení, pro detekci objektů ve zdrojích videa. Google také zdůraznil, že vyvíjí zásady a ochranná opatření k řešení etických aspektů své technologie.

Projekt Maven však se zaměstnanci společnosti Google dobře neseděl - z nichž 3 000, včetně desítek techniků, brzy podepsalo otevřený dopis generálnímu řediteli Sundarovi Pichai, který požadoval ukončení programu.

„Věříme, že Google by neměl být v obchodě s válkou, “ přečetl dopis. Žádal, aby společnost „navrhla, zveřejnila a prosadila jasnou politiku, která stanoví, že Google ani její dodavatelé nikdy nebudou stavět válečnou technologii“.

Zaměstnanci společnosti Google také varovali, že jejich zaměstnavatel v budoucnu ohrožuje její pověst a schopnost soutěžit o talenty. "Nemůžeme zadávat morální odpovědnost našich technologií třetím stranám, " zdůraznili zaměstnanci společnosti Google.

Krátce nato petice podepsaná 90 akademiky a vědci vyzvala špičkové pracovníky společnosti Google, aby přerušili práci na vojenské technologii. Signatáři varovali, že práce společnosti Google připraví půdu pro „automatické rozpoznávání cílů a autonomní zbraňové systémy“. Varovali také, že s tím, jak se technologie vyvíjí, budou stát „kousek od autorizace autonomních robotů zabíjet automaticky, bez lidského dohledu nebo smysluplné lidské kontroly“.

Jak napětí rostlo, několik zaměstnanců Google rezignovalo na protest.

Jak technici reagovali

V červnu Google pod tlakem prohlásil, že po vypršení jeho platnosti v roce 2019 neobnoví smlouvu s Ministerstvem obrany na projektu Maven.

V blogovém příspěvku vyhlásil generální ředitel Sundar Pichai (na obrázku níže) soubor etických principů, které by řídily vývoj a prodej technologie AI společnosti. Podle Pichai bude společnost od nynějška zvažovat projekty, které jsou pro dobro společnosti jako celku, a vyhnout se rozvoji AI, které posílí stávající nespravedlivé předsudky nebo oslabí veřejnou bezpečnost.

Pichai také výslovně uvedl, že jeho společnost nebude pracovat na technologiích, které porušují normy lidských práv.

Amazonův Bezos byl pobouřen pobouřením nad Rekognicí. "Budeme nadále podporovat DoD, a myslím, že bychom měli, " řekl Bezos na technické konferenci v San Franciscu v říjnu. "Jedním z úkolů vyššího vedení je učinit správné rozhodnutí, i když je to nepopulární."

Bezos také zdůraznil potřebu technické komunity podporovat armádu. "Pokud se velké technologické společnosti obrátí zády k DoD, tato země bude mít potíže, " řekl.

Microsoft President Brad Smith, jehož společnost čelila kritice za svou práci s ICE, zveřejnil v červenci blogový příspěvek, ve kterém vyzval k měřenému přístupu při prodeji citlivé technologie vládním agenturám. Zatímco Smith nevyloučil prodej služeb rozpoznávání obličeje donucovacím orgánům a armádě, zdůraznil potřebu lepší regulace a transparentnosti v technologickém sektoru.

• MIT utratit 1 miliardu dolarů na program studovat etiku AI MIT utratit 1 miliardu dolarů na program studovat etiku AI
• Mluví AI opravdu jazykem? Mluví AI opravdu jazykem?
• Rozebrat čínskou nezastavitelnou továrnu na umělou inteligenci Rozbít čínskou nezastavitelnou továrnu na umělou inteligenci

„Zvolili jsme zástupce v Kongresu, které mají nástroje potřebné k posouzení této nové technologie, se všemi jejími důsledky. Využíváme kontroly a vyvážení ústavy, která nás viděla od věku svíček po dobu umělé inteligence. v minulosti tolikrát potřebujeme zajistit, aby nové vynálezy sloužily našim demokratickým svobodám v souladu se zásadami právního státu, “napsal Smith.

V roce 2018 se vzdálené hrozby zabijáckých robotů a masová nezaměstnanost uvolnily obavám o bezprostřednější etický a sociální dopad AI. V mnoha ohledech tento vývoj naznačuje, že průmysl dozrává, protože algoritmy umělé inteligence se stávají významnějšími v kritických úkolech. Ale jak se algoritmy a automatizace stávají více zakořeněné v našem každodenním životě, vyvstane více debat.