Co se stane, když se všechna tato mluvící zařízení napadnou? | john c. dvorak

Společnost Microsoft uspořádala minulý týden svou báječnou konferenci Build, kde propagovala budoucnost Cortany a tlačila ji jako nějaký druh společníka pro ty z vás, kteří byli zavřeni v suterénu.

V budoucnu budete mít spoustu polopřirozených přátel: Siri, Alexa, Google, Cortana. Můžete si být jisti, že se brzy objeví další… pokud někdo opravdu potřebuje víc.

Měl bych najít tyto triky nepříjemné a měli byste očekávat, že ode mě něco pronikne. Ale ne. Považuji tyto hlasové rozpoznávací a interaktivní moduly za velmi užitečné (i když bych se bez nich dokázal stejně snadno obejít; bez jakéhokoli dotazu mohu vyhledávat počasí). Většinou zpochybňuji jejich dlouhodobou spolehlivost.

Například na svých zařízeních Android používám neustále modul „OK Google“. Používám to k poklesu vyhledávacích dotazů, nalezení adres a psaní krátkých zpráv. Nejedná se o interaktivní práce. Interakce je něco, co modul dělá sám, ale obecně ne ve formě konverzace. Konverzuji s roboty zákaznických služeb. "Myslíš ano? Nebo ne?" „Řekněte ano nebo stiskněte 1.“

Mnoho lidí je gaga nad Amazonkou Echo a neustále o tom mluví. Když se na to zeptáte, konverzace probíhá takto.

Advokát: Miluji tuto Echo.

Já: Co je to dobré?

Advokát: Nemáte tušení, ale je to fantastické.

Já: Jako co?

Advokát: Můžu se zeptat na počasí.

Já: Nemůžete se jen dívat z okna?

Advocate: Přehrává písně z mého seznamu skladeb.

Já: Na těch špinavých reproduktorech to tak dobře nezní.

Advokát: Zní to lépe, než si myslíte. Je to úžasné. Čte také z Wikipedie. Může nastavit časovač.

Mohl bych pokračovat, ale stále je to jen gizmo. Kdyby to vzalo diktát a udělalo by to dobře, byl bych ohromen. Ale ne.

Jedním z problémů, který jsem měl s těmito zařízeními, jsou problémy životního prostředí. Siri, Google a Cortana se například nemohou vypořádat se závažným hlukem z ulice. Je to vtip používat tyto věci při chůzi na Manhattanu.

Ale dovolte mi, abych se dostal k té části, která se mě nejvíce dotýká: Lidé se vrhají do věcí. To se nestalo žádnému extrému, ale bude to, když kreativní hackeři v něm uvidí humor.

Mnoho lidí má podezření, že bláznivý „Tay“ chatbot, který Microsoft uvolnil na Twitteru, byl hacknut a skončil tak, že produkoval nejrůznější odporné tweety. Podobně si dokážu představit, že Amazon Echo je naprogramována tak, aby zpívala „Daisy“ od roku 2001: Space Odyssey , nebo klasiku „There are Fungus With Us, “, náhodně.

Bylo by zábavné, kdyby některý z těchto hlasových robotů při dotazu vrátil řetězec hrubých epithetů.

Microsoft popírá, že Tay byl zasažen malwarem. Neexistuje však žádné alternativní vysvětlení. Pokud to byl interní hack, pak je možné, že Cortana je dalším cílem.

To není taková věc, kterou by některá z těchto společností chtěla zvážit, protože publicita by byla hrozné, zejména pokud by to znamenalo nadšení malých dětí jako šílence na autobusové zastávce.

Hackeři mohou také poskytovat úmyslně zavádějící odpovědi na otázky nebo nesprávné pokyny k řízení. Můžeš si představit. Možnosti jsou nekonečné a mohu zaručit, že k nim dojde dříve než později.