Podle Smithovy slov může společnost totální kontroly a špehování, kterou popsal Orwell ve svém díle, stát realitou již do roku 2024, pokud nebudou přijata opatření k zadržování umělé inteligence. Jak píše The Daily Mail s odvoláním na informaci od anonymního čínského inženýra, úřady ČLR již používají UI pro špehování obyvatelstva, a používají mj. technologii, která rozeznává emoce a zjišťuje vinu. Podle slov inženýra je princip činnosti této technologie srovnatelný s polygrafie.
“Používá se, aby bylo potvrzeno předem učiněno rozhodnutí úřadů za nedostatku přesvědčivých důkazů. Počítač usoudí, že je člověk nebezpečný – a je tedy vinen z velkého množství zločinů, ke kterým se zatím nepřiznal, “uvádí deník slova čínského inženýra.
Jak píše The Daily Mail, běžné využití UI spočívá v tom, aby byl algoritmus “naučen” tomu či onomu aspektu pomocí souboru dat. Například, je možné naučit UI rozeznávat na fotografii určitý druh rostlin, jehož zobrazení byla uložena do její paměti. Může se ale používat i pro méně ušlechtilé cíle, jako je třeba zjištění viny občanů zadržených policií.
Podle Smithovy slov příklad Číny ukazuje, že se svět přibližuje sci-fi: “Stále si vzpomínám na ponaučení George Orwella z knihy 1984. Jeho hlavní smysl spočívá v tom, že vláda může všechno vidět a slyšet. Nenaplnilo se to v roce 1984, avšak pokud nebudeme opatrní, může se to uskutečnit v roce 2024. ”
Jak podotýká deník, nejen ČLR využívá UI pro špehování lidí. Například USA využívají technologií Google, jako je třeba rozeznávání obrazů, schopnost rozlišovat lidi a objekty. Tyto technologie byly použity pro vojenské účely, po čem několik pracovníků z Google odešlo na znak protestu. V důsledku toho společnost od projektu odstoupila, ministerstvo obrany USA si však našlo v křemíkových údolí nových partnerů. Podle slov kongresmana Setha Moulton mají technologické společnosti podporovat vládu. Podotkl, že horečné zbrojení v oblasti UI může přivést ke konfliktu s ČLR.
Podle slov britského profesora Stuarta Russella je technologie UI pro lidstvo rozcestí: “Pokud vše uděláme správně, může nastat pro lidstvo zlatý věk, zbavíme se bídy a nemocí. Když to ale uděláme špatně, zřídíme technologiemi podporovanou globální diktaturu, a můžeme dokonce přenechat kontrolu nad naším světem svým vlastním technologiím “.
