Tato práce argumentuje, že lidstvo směřuje k vývoji superinteligentních systémů AI, které budou pro člověka v podstatě neovladatelné. Autor definuje „smysluplnou lidskou kontrolu“ skrze pět klíčových vlastností a předkládá tři hlavní argumenty, proč je tato kontrola u superinteligence nedosažitelná: inherentní konfliktnost vztahu, propastné rozdíly v rychlosti a hloubce myšlení a socio-technický kontext závodů ve vývoji. Práce varuje, že superinteligence nebude moc lidem propůjčovat, ale naopak ji bude pohlcovat, což činí současné závody v jejím budování sebezničujícími.

Otevřít celý článek