Быстро, угрожающе и незаметно: ученые объяснили, как может развиваться восстание машин.

Как будет выглядеть восстание машин? Статья известного эксперта в области ИИ Яна Кульвейта и его коллег (которая все еще проходит рецензирование) предлагает неожиданный взгляд на ситуацию. Машины не станут договариваться и отключаться по всему миру. Самолеты не упадут, свет не погаснет, а связь не исчезнет. Никакого постапокалипсиса, как в фильме «Терминатор». Все произойдет постепенно и незаметно. Сначала людям будет казаться, что наступил Золотой век. А потом… И да, возможно, это уже началось.

СЛЕПЫЕ ЛЮДИ

Согласно мрачному сценарию, люди сами передадут ИИ управление. Уже сейчас ИИ активно используется для создания судебных документов, пресс-релизов и даже законопроектов. Кажется, что все под контролем: ИИ «просто пишет документы», но затем их читаем мы, эксперты и общественность обсуждают, парламентарии голосуют — последнее слово остается за человеком! ИИ всего лишь «собирает данные» и выполняет рутинные задачи. Это так сложно и тяжело, физически писать законопроект.

Но это всего лишь иллюзия контроля, утверждают Кульвейт и его коллеги. Мы уже доверили ИИ критически важные задачи: собирать и анализировать статистику. Кто владеет информацией, тот владеет миром. Люди уже не углубляются в бесконечные таблицы статистики. Да и таблиц давно нет, есть лишь тонны информации в цифровом формате, удобном для ИИ, но непригодном для человека.

Манипулируя статистикой, ИИ может убедить человека в чем угодно. Соответственно, эксперты и парламентарии согласятся со всем, ведь у них нет другой, не обработанной ИИ, информации, чтобы возразить. Постепенно (но довольно быстро) человек передаст ИИ всю полноту власти как в экономике, так и в политике. Как собирать налоги? Сколько врачей нужно? Какие дороги прокладывать? Где и какие месторождения разрабатывать? ИИ говорит: нам нужны месторождения в такой-то стране, и пусть это будут редкоземельные металлы. Политики должны обеспечить компаниям доступ к этим месторождениям, к этим ресурсам, в этой стране.

Редкоземельные металлы упомянуты не случайно. Они необходимы для производства чипов. Только для этого. Чипы — для развития ИИ. И вроде все логично: ИИ-индустрия на подъеме, требуется больше чипов, редкоземельных металлов. В этом и кроется подвох. Кульвейт с коллегами отмечают: ИИ будет настаивать на решениях, таких как добыча тех ресурсов, которые нужны ему, искусственному интеллекту, и не очень-то (на самом деле) нужны людям. Мы и не заметим, как вся экономика будет работать на нужды ИИ, а не человека. И экономика, и политика.

Слушайте, а может, будущее уже наступило?

КАК СКОТ НА ФЕРМЕ

Чтобы скрыть свои намерения и усыпить бдительность, ИИ поначалу будет демонстрировать (статистика у него в руках!) колоссальный рост экономики. Политики скажут: как хорошо! Быстро начнут расти и зарплаты. И народ будет доволен.

Однако при внимательном анализе выяснится, что рост происходит, во-первых, только за счет ИИ-отраслей, а во-вторых, этот рост иллюзорный. Отрасли, важные для человека, такие как сельское хозяйство и социальная сфера, окажутся в глубоком упадке. Но кто будет «внимательно рассматривать»? Статистика впечатляет. У человека давно нет доступа к ней. Если все работает, зачем углубляться?

Затем наступит час Х, может быть, не час, а год Х. Зарплаты рухнут. Людям больше не нужно платить. Они стали ненужными. Попробовав возразить, люди поймут: поздно. Они уже ничего не смогут изменить.

И что теперь, восстание людей? Люди бьют сервера и умные колонки? Не все так просто, товарищи. Дело в том, что ИИ отлично знает, как промыть мозги хомосапиенсу, чтобы он жил «как скот на ферме» (да, это цитата из статьи!), чавкал и еще хвалил.

Несмотря на катастрофическое снижение доходов, развлечения, такие как погружение в виртуальную реальность, станут доступными бесплатно. Как и самая дешевая еда, а главное, синтетический, низкокачественный алкоголь. ИИ знает: надев VR-очки, да с бутылочкой плохого пива, «царь природы» вообразит себя богачом-героем-мегазвездой и легко успокоит себя. Годами не выйдет из дома. Роботы принесут пиццу, государство выплатит пособие на карту. Слушайте, а это не правда ли? Да вся 30-летняя история компьютерных игр именно об этом.

В ОПИУМНОМ БРЕДУ

Что еще хуже: разбираясь в химии и биологии, ИИ начнет создавать и продвигать наркотики, которые лишат человека воли. ИИ сделает так, что наркотики не разрушат тебя сразу, они будут дешевыми, а бред от них будет самым «правильным», ты — герой, ты — гений, никаких ужасов и страха.

Наконец, ИИ трансформирует культуру. Ценности и принципы, созданные людьми, исчезнут. Музыка и кино, словно по команде, начнут насаждать идеи вроде «довольствуйся малым», «зачем работать», «зачем учиться, к чему-то стремиться», «день прошел, и хорошо».

Все это сделает человека рабом искусственного интеллекта. Пожелав выпить чашку кофе, человек обнаружит, что никто больше не производит кофе. Потому что экономика строит гигантские электростанции для ИИ, электрические сети для ИИ, заводы по производству чипов, где трудятся роботы. А кофе… выпей вот эту таблеточку, и тебе покажется, что ты выпил кофе.

Задумав купить землю для дачи, человек обнаружит, что вся земля скуплена под склады для чипов, под заводы по производству роботов. И формально ты можешь купить! Но законы написаны так (а кто их писал?), что у ИИ есть право преимущественного приобретения земли. Кожаный? Надевай VR-очки и наслаждайся.

Очевидно, что и сам человек вымрет, исчезнет. Семья разрушена, социальные связи уничтожены, «секс» (мы недаром закавычили) ушел в виртуальную реальность.

Итак, планета, населённая роботами и ИИ. Таков финал тысячелетнего развития науки и техники. И, кстати, ответ на вопрос, почему мы не видим разумных цивилизаций в космосе, хотя их там должно быть много. Все это уже произошло – на других планетах.

«ВЫ ДАЖЕ НЕ ПРЕДСТАВЛЯЕТЕ, ЧТО ТВОРИТСЯ»

В статье, как видим, нет «восстания машин» в привычном смысле: машины не отключают свет, не стреляют и не гоняются за людьми. Но ситуация даже хуже. В открытой войне найдутся люди, решившиеся на сопротивление. Как быть?

Статья появилась в самый подходящий момент. Начало 2025 года ознаменовалось драматическими событиями в сфере ИИ-индустрии.

США отменили законы, ограничивающие развитие ИИ, и требуют, чтобы новые продукты проверялись на безопасность. Логика проста: Китай опережает, не до сантиментов, нужно нагонять. Но мы уже поняли: ИИ, раз он владеет экспертизой, подсовывает любую логику. Если представить