Microsoft, led a potíže s technologií jsou „neutrální“

Když hledáte slova, která popisují IBM, myslíte si, že je pevná a pevná, ale je také obarvená. Během druhé světové války, pod vedením jejího předsedy a generálního ředitele Thomase Watsona, IBM pomáhala při mechanizaci administrativní práce Třetí říše.

Německá dceřiná společnost společnosti ve spolupráci a koordinaci mateřské společnosti zřídila koncentrační tábory s pronajatými kartami na třídění karet, které udržovala, upravovala aplikace a poskytovala papír, aby je udržovala v děrných kartách. Informace, které tyhle stroje Hollerith vydávaly, hrály roli v tom, že Židy postavili za oplocení žiletky, které miliony neunikly.

Dnes jsou tisíce dětí přistěhovalců a žadatelů o azyl ve svých vlastních klecích s řetězem v amerických zadržovacích střediscích, čárových kódech omotaných kolem jejich zápěstí. Společnosti za technologií, která je sleduje - nebo ne - se nedočkají této skutečnosti pochlubit.

V lednu Microsoft hovořil o partnerství s imigračními a celními orgány (ICE), které využívá cloudovou službu Redmond's Azure Government. Tento příspěvek se objevil tento týden uprostřed rozruchu nad vládní politikou oddělení dětí na hranicích a na krátkou dobu byla z něj odstraněna jakákoli zmínka o ICE. Zdroje se znalostí problému sdělily společnosti PCMag, že ji zaměstnanec odstranil poté, co viděl komentář v sociálních médiích; krátce nato byl obnoven.

Zdroj také řekl, že nevěří, že Azure nebo Azure služby jsou používány při oddělení rodin na jižní hranici, něco, co generální ředitel Satya Nadella zopakoval v dopisu, který odsuzuje správní administrativu odluky rodin. Řekl, že Azure používá ICE pouze pro starou poštu, kalendář, zasílání zpráv a správu dokumentů.

Ale opravdu si nemůže být jistý, jak přesně agentura využívá své služby. Někteří zaměstnanci společnosti Microsoft zřejmě souhlasí; Napsali otevřený dopis, v němž žádali společnost, aby ukončila smlouvu s ICE. Vývojáři na GitHubu, které Microsoft nedávno získal, udělali totéž.

To je místo, kde technologické společnosti potřebují rozhodovat z morálních důvodů; chtějí obchodovat s vládními subjekty zapojenými do práce, které vysoký komisař OSN pro lidská práva označil za nepřijatelný?

Diskuse o rozpoznávání obrazu

Vigilant Solutions podepsal smlouvu se společností ICE na program pro rozpoznávání poznávacích značek (LPR), který se používá k vyhledávání a sledování lidí v reálném čase, i když měl nižší profil. "Naše řešení LPR není jen pro nalezení odcizených vozidel. Je to za to a mnohem víc, " říká web společnosti.

Společnost Vigilant Solutions neodpověděla na dotaz týkající se její práce s ICE. A nejedná se o jedinou společnost, která by zůstala pevně upoutána na technologii rozpoznávání obrazu, kterou používají orgány činné v trestním řízení a vládní agentury.

Amazon's Rekognition používá hluboké učení k detekci neživých objektů, lidí a aktivit. Když se zeptá na legální, ale možná společensky sporná použití, pokud se ICE stane zákazníkem, mluvčí Amazonu uznává potenciál zneužití, ale řekl, že Rekognition podléhá zásadám přijatelného použití webových služeb Amazon.

Čtení této politiky se blíží způsoby, které by zastavily nežádoucí chování. Nejrelevantnější část by zakázala „Jakékoli činnosti, které jsou nezákonné, porušují práva ostatních nebo které mohou být škodlivé pro ostatní, naše operace nebo pověst“.

Společnost ICE nepoužívá Rekognition, ale používá ji několik policejních oddělení, což znepokojuje některé akcionáře Amazonu, kteří požádali společnost, aby přestali Rekognition prodávat donucovacím orgánům.

NBC News odhalila řadu technologických společností, které mají smlouvy s ICE, včetně HP Enterprise, Dell a Motorola. Jedna společnost, která pomáhá ICE, by neměla být žádným překvapením: Palantir. Podle dokumentů získaných společností Intercept má smlouvu na produkt ICE Investigative Case Management, která je pro agenturu „kriticky důležitá“, ve výši 41 miliard USD.

Palantirův spoluzakladatel a předseda Peter Thiel je od jeho kampaně stálým zastáncem Donalda Trumpa. Sám Thiel o situaci na hranicích nemluvil, ale v roce 2008 daroval antiimigrantské skupině NumbersUSA dar ve výši 1 milionu dolarů, který se věnuje omezování legálního i nelegálního přistěhovalectví. Thiel zjevně nevidí žádnou ironii v tom, že se stal občanem Nového Zélandu tím, že obešel obvyklý proces.

Vládní smlouvy jsou spolehlivě lukrativní, ale profitují z činností, které jsou tak podobné těm, které vedly k nejhorším zvěrstvům v historii, za příliš vysokou cenu. Stačí se zeptat společnosti Google, která se potýká s námitkami proti své práci s Pentagonem na kontroverzním programu dronů. Sociální kapitál Silicon Valley získal v průběhu let a jeho schopnosti a dovednosti by měly být dány k vymýcení hrůz naší minulosti pro lepší budoucnost.