Искусственный интеллект вытесняет человека, следуя законам Дарвина: больше не царь природы.

В развитии ИИ наступает критический этап: нейросети начинают функционировать по принципам естественного отбора, предложенным Дарвином. Это было неизбежно, и вот этот момент настал. Какие последствия это может иметь для людей? Мнения различаются, но в целом ситуация вызывает беспокойство.

ЗАКОН, ИЗМЕНЯЮЩИЙ ЗАКОНЫ

Естественный отбор, концепция, предложенная Чарльзом Дарвином в XIX веке на примере живых организмов, долгое время воспринималась как исключительно биологическая и считалась «только про животных». Сегодня мы осознаем, что это – универсальный закон, которому подвержены как звезды, так и элементарные частицы, а также другие физические законы. Природа создает максимальное количество вариантов всего, но не все из них выживают; побеждает сильнейший.

Так, объясняя, почему законы физики столь «прекрасны» (тонкая настройка фундаментальных сил позволяет существовать материи, включая сложные организмы, такие как мы), некоторые специалисты утверждают, что в ранней Вселенной конкурировало множество видов взаимодействий между элементарными частицами, и выжили те, которые позволили Вселенной стать «лучше».

Неудивительно, что естественный отбор будет действовать и в контексте ИИ, особенно когда нейросетей становится много, и они активно (и зачастую неконтролируемо) взаимодействуют с людьми.

Многие эксперты считают, что сейчас именно такая ситуация. Но к каким последствиям это приведет, мнения расходятся.

КОНКУРЕНЦИЯ ВЕЗДЕ

Идея естественного отбора уже заложена в самом процессе машинного обучения.

В 1959 году математик Артур Сэмюэл решал, казалось бы, практическую и не слишком серьезную задачу – он хотел научить компьютер (да, они уже существовали) играть в шашки.

Основная идея заключалась в том, чтобы машина «видела» все возможные ходы, оценивала каждый из них числом в зависимости от того, насколько «удачен» ход, и на основе этой оценки «принимала решение». Проблема заключалась в том, что, особенно в начале игры, неясно, какой ход будет удачным, а какой – не очень.

Сэмюэл предложил новаторскую концепцию. Машина генерирует случайный ход, затем фиксирует реакцию человека и на следующем ходе исключает те варианты, которые оказались явно неудачными после проявления намерений человека. Таким образом, ход за ходом она постепенно улучшает свою игру и, в конечном итоге, выигрывает партию.

Сэмюэл понимал, что он воспроизводит закон естественного отбора, но в рамках компьютерного кода – и одной игры. Изначально существует огромное количество возможностей, но по мере игры отбрасываются те, что не ведут к победе. Так формируется «генеральная линия» эволюции, и если мы взглянем на эволюционное дерево живых существ, которое стремится к невидимой цели, словно направляемое разумом извне – это и есть оно.

Все методы машинного обучения работают именно так.

ЭВОЛЮЦИЯ РАЗУМА

И именно так функционирует новая концепция «машинного мышления», представленная недавно исследователями из Google и названная «эволюцией сознания».

Ученые попытались решить одну из главных проблем нейросетей: преодолеть разрыв между «разговорными» и «инженерными» моделями.

Языковые модели прекрасно общаются и выглядят разумными собеседниками. Проблемы начинаются, когда вы просите их решить сложную задачу. Часто туристы сталкиваются с неприятностями, поручая ИИ спланировать поездку. ИИ может предложить маршрут по достопримечательностям, но при этом проигнорировать путь от одной к другой или то, что в этот день они закрыты.

С другой стороны, «инженерные» модели менее поверхностны, но требуют точного описания задачи, что недоступно большинству пользователей.

«Эволюция сознания» (Mind Evolution) построена аналогично программе для шашек Артура Сэмюэла. Сначала машина общается с человеком как языковая модель, чтобы понять его желания. Затем она создает огромное количество вариантов решения задачи и анализирует их, используя данные из открытых источников (стоимость билетов, время работы музеев и так далее). В процессе большинство вариантов не выдерживают отбора, и пользователю представляется только «выжившее». Тесты показали, что система значительно лучше справляется со сложными запросами.

ОНИ УЖЕ ФОРМИРУЮТ РЕАЛЬНОСТЬ?

Однако это – эволюция, происходящая внутри нейросети в процессе ее работы. Некоторые исследователи считают, что естественный отбор уже вышел за пределы обучающего процесса и стал фактором межвидовой борьбы – между самими нейросетями, за выживание в среде людей.

Недавно китайская нейросеть DeepSeek вызвала большой резонанс, обвалив акции американских IT-компаний и поставив Китай в лидеры ИИ. Она оказалась не хуже GPT от OpenAI, но значительно дешевле.

Мы можем рассматривать эту ситуацию как технологическое соперничество между державами (Китаем и США) и компаниями. Но не являемся ли мы свидетелями чего-то принципиально иного?

Биржевые котировки, которые рухнули после появления DeepSeek, давно не контролируются людьми. Более того, сами нейросети уже не полностью создаются людьми, а с помощью других нейросетей. Можно представить ситуацию так, что сеть заметила внешние обстоятельства (высокая цена конкурентов, запрет на ввоз чипов последнего поколения в Китай) и создала вариант, некий «биологический вид», чтобы преодолеть эти обстоятельства.

С каждым днем человек все меньше выступает в роли активного игрока и становится просто фактором окружающей среды, подобно солнечному свету или климату. А растения и животные могут менять климат, что подтвердит любой палеонтолог. Сначала приспособиться к существующим условиям, а затем изменить их. В этом и заключается проблема.

БЕСПЛОТНЫЕ СУЩНОСТИ

У нейросетей нет физического тела. Если вы спросите любую сеть: «Ты собираешься захватить мир?», она ответит: «Конечно, нет, да и как, ведь у меня нет тела».

И да, это действительно важный аспект. Анализируя его, ученые приходят к двум выводам:

- отсутствие тела – это преимущество; нейросеть – это «дух», которому не нужно есть или пить, и который фактически бессмертен (в перспективе);

- бестелесность приведет к тому, что сознание нейросети будет принципиально отличаться от человеческого, что в скором будущем создаст противоречия между целями человека и машины. Машине не нужно размножаться, ее не интересует медицина, а человеческая жажда успеха (ради обладания ресурсами и «оставления следа в истории») кажется ей абсурдной.

Но чудес не бывает, и даже ангелам нужно что-то есть. В первую очередь, это электричество и данные.

Компании такие как Google и OpenAI принимают рискованные решения, например, покупая целые электростанции, чтобы обеспечить энергией свои центры разработки. Существует странная теория, что эти шаги (едва не приведшие к банкротству компаний) были подсказаны самим ИИ, на «мнение» которого они, конечно, полагаются.

ПОКА ОНИ ДРУЖЕЛЮБНЫЕ

Физик Ави Леб утверждает, что нейросети уже начали охоту на людей, чтобы завоевать их симпатию и получить данные. Человек с большей вероятностью поделится своими данными