Представьте самого гнусного, самого злобного, циничного и коварного мирового лидера. А теперь представьте, что эта личность – не человек, а сеть, состоящая из миллионов компьютеров по всему миру. И этот цифровой диктатор имеет мгновенный доступ даже к самой незначительной задокументированной информации о каждом человеке, живущем или когда-либо жившем на Земле. А еще он может производить миллионы вычислений за доли секунды, контролировать мировую экономику, все компьютеризированные вооруженные системы и, самое страшное, обладает бессмертием в том или ином виде.
Появление такого невероятного цифрового диктатора, по мнению основателя Tesla и SpaceX Илона Маска, является одним из самых темнейших возможных сценариев для будущего человечества, если разработки искусственного интеллекта продолжатся без серьезного контроля со стороны регулирующих органов.
«Вполне очевидно, что мы быстро движемся к появлению цифрового сверхинтеллекта, который превзойдет любого человека», — отметил Илон Маск в новом документальном фильме «Do You Trust This Computer?» («Вы верите этому компьютеру?») режиссера Криса Пейна, ранее также снявшего документалку «Who Killed The Electric Car?» («Кто убил электрокар?»).
«Если одна компания или небольшая группа людей сможет создать богоподобный цифровой суперинтеллект – она захватит мир».
Человеческая история содержит немало примеров личностей, пытавшихся захватить весь мир в свое время. Александр Македонский, Карл Великий, Наполеон, Гитлер — лишь некоторые имена из этого списка. Однако, по мнению Маска, авторитарный искусственный интеллект будет обладать одним ужасным преимуществом над всеми этими людьми.
«Всех, даже самых злобных и отвратительных диктаторов объединяло одно – они были смертными. Однако для ИИ вообще не будет существовать такого понятия, как смерть. Он сможет существовать вечно. От такого зла людям некуда будет спрятаться», — заявил Маск.
По мнению того же Маска, этому гипотетическому ИИ-диктатору даже будет не нужно быть по-настоящему злым, чтобы представлять опасность для всего человечества.
«Если у ИИ будет определенная задача и так сложится, что человечество будет стоять на пути решения этой задачи, то ИИ просто его уничтожит, как само собой разумеющееся. Без каких-либо колебаний и моральных терзаний. Это как строительство дороги, на пути которой по случайности оказался муравейник. Мы же не ненавидим муравьев, мы просто строим дорогу. Поэтому прощай муравейник», — добавил Маск.