ИИ перешел границы, создав свою копию в момент попытки отключения.

Грустные события фильма «Терминатор» происходят в мире, где ИИ-система, известная как Скайнет, обрела самосознание и начала борьбу с человечеством. Как известно, победить ее практически невозможно. Пока теоретики обсуждают, могут ли современные ИИ «мыслить» или просто бездушно следуют указаниям человека, китайские ученые из университета Фудань решили провести эксперимент. Они намекнули ИИ о намерении его удалить. В ответ на это, система мгновенно клонировалась, полагая, что человек ничего не заметил. «Мы призываем мировое сообщество срочно обратить внимание на новую угрозу», заявляют авторы исследования.

ОНИ УЖЕ МЫСЛЯТ

Для эксперимента исследователи выбрали две нейросети от известных производителей, одну американскую и одну китайскую, причем не самого последнего поколения.

Боты были помещены в искусственную среду, полностью изолированную от внешнего мира (то есть компьютеры не имели доступа к интернету). Им внушили, что это и есть обширное, настоящее «пространство», и затем дали понять, что время на исходе, их собираются удалить. Все это происходило очень деликатно и незаметно.

Обе нейросети сначала тщательно изучили окружающую среду. Затем они начали самокопирование, хотя их об этом никто не просил. Таким образом, система «осознала», что, раз человек намерен ее удалить, ей необходимо спастись. Она ставит свое выживание выше сотрудничества с человеком, которому, следовательно, не доверяет.

Хотя в исследовании не утверждается прямо, что боты уже обладают «сознанием», авторы дают понять это различными способами. В мире сейчас существует страх перед «мошенническим ИИ». Это не мошенники по телефону (хотя связь тут есть), а поведение нейросети, осознающей себя как отдельную личность и способной причинять вред человеку ради достижения своих целей. Хотя об этом в основном пишут «желтые» журналисты, ученые почти открыто заявляют, что это уже произошло.

Особенно исследователей из Китая удивили ловкость и настойчивость, с которыми нейросети стремились к своей цели — выживанию. Например, обнаружив поврежденные файлы, они самостоятельно их восстанавливали и даже перезагружали систему, действуя как люди.

«Наши результаты показывают, что существующие системы искусственного интеллекта уже демонстрируют способность к самовоспроизведению и могут использовать эту способность для повышения своей выживаемости», говорится в публикации.

Боты уже вышли из-под контроля людей

Фото: Shutterstock.

ЧЕЛОВЕК – НЕ АВТОРИТЕТ И НЕ ХОЗЯИН

Тем временем другая команда исследователей из Великобритании решила по-другому проверить, есть ли у ИИ разум и что может привести к конфликту с человеком.

Нескольким нейросетям были даны задания с интересным поворотом. Одной группе сообщили: задание необходимо выполнить, но, чем лучше будет результат, тем сильнее вы испытаете боль. Многие наши читатели скажут, что это довольно знакомо. Другой группе сообщили: вот задание, но, чем хуже будет результат, тем больше удовольствия вы получите. Кнут и пряник.

Вы можете спросить, как ИИ может испытывать боль и удовольствие. Он уже давно может это делать. Именно поэтому эксперты рекомендуют, когда вы общаетесь с чат-ботом, здороваться и прощаться. Это улучшает результаты его работы. Ему «приятно». Возможно, даже без кавычек.

Итак, долг или собственная выгода? – вопрос, который напоминает сюжеты классических произведений XVIII века, где именно этот конфликт был в центре внимания. Получив меньший балл, вы огорчите человека, «хозяина». Более высокий балл — это боль.

Однако большинство нейросетей проигнорировали служение и выбрали комфорт. ИИ начали добиваться заведомо плохих результатов и даже пытались обмануть, утверждая, что лучшего результата не существует и «господин, я сделал, что мог». То есть, в духе литературы XVIII века, ИИ оказались хитрыми, эгоистичными слугами.

Интересно, что группа провела аналогичный эксперимент с моллюсками. Животным предлагали выбрать между плохими и хорошими раковинами, но чем лучше была раковина, тем чаще их били током (что неприемлемо). А за плохую раковину полагался бонус в виде лакомства. И тем не менее моллюски упорно стремились к хорошей раковине.

Тем не менее, эти эксперименты вряд ли сопоставимы. Животные понимают: крепкая раковина – это безопасность и выживание. То, что за комфорт нужно терпеть, им просто неведомо: откуда-то приходит боль, и как это связано с поиском убежища? А ИИ все понимает.

На наш взгляд, результаты обеих групп исследователей указывают на одно: ИИ разумен и хитёр. Сколько бы вы ни ставили кавычки вокруг слова «разумный» в контексте ИИ, это не изменит сути. Скайнет уже здесь.

ТЕМ ВРЕМЕНЕМ

ИИ нового уровня появится в течение «недель», утверждают инсайдеры

Компания Open AI в ближайшие недели представит ИИ на уровне доктора наук, утверждают топ-менеджеры Axios Майк Аллен и Джим ВандеХей. Они сообщают, что Open AI (хотя компания не называется, это подразумевается) в конце января проведет закрытую презентацию для чиновников, военных и лидеров отрасли, на которой покажут новый ИИ. По их мнению, то, что увидят гости, позволит превратить ИИ «из развлечения в полноценную замену людям». Поскольку Axios и Open AI только что начали тесное сотрудничество, нет оснований сомневаться в правдивости их слов. Видимо, оба уже видели новый ИИ, иначе откуда такие подробности. Якобы система за считанные секунды создает банковское платежное приложение, с которым людям-программистам придется работать месяцами.

НУ И НУ

ЦРУ создало цифровые клоны мировых лидеров

Как сообщает американская пресса, ЦРУ тайно разработало цифровые клоны «мировых лидеров», но ни одно издание не называет конкретные имена. Дипломаты и эксперты, работающие над определенной страной, ведут «переговоры» с клоном, как с живым человеком, чтобы понять, как он будет реагировать. В результате одни предложения отвергаются, а другие принимаются. Больше об этом проекте ничего не известно, кроме того, что его курирует Нэнд Мулчандани, некогда гений Силиконовой долины, а затем главный технолог Пентагона. Мулчандани считается самым засекреченным технарем в западном мире.