informkz.com

ИИ өтті қызыл шекарадан: оны сөндіруге тырысқанда, ол өзін өзі клондатты.

Зерттеушілердің айтуынша, боттар адамдардың бақылауынан шықты.
ИИ перешел границы, создав свою копию в момент попытки отключения.

ЦРУ құпия түрде «әлемдік көшбасшылардың» цифрлық клондарын жасады - басылымдар ешқандай атын атамайды

Фото: Shutterstock.

«Терминатор» фильмінің қайғылы оқиғалары ИИ жүйесі, Скайнет, өзін-өзі танып, адамдармен соғыс бастаған әлемде өрбиді. Біз еске түсіргендей, оны жеңу практикалық тұрғыдан мүмкін емес. Теоретиктер қазіргі ИИ-дің «ойлай» алатындығын немесе тек попугайлар сияқты адамды қайталап, жансыз тапсырмаларды орындап жатқанын талқылап жатқанда, Фудань университетінің қытай зерттеушілері тексеруге шешім қабылдады. Олар ИИ-ге оны жоюға ниетті екенін ишара етті. Ол адам сезбеді деп ойлап, лезде клонирланды. «Біз әлемдік қауымдастықты жаңа қауіпке шұғыл назар аударуға шақырамыз», - дейді жұмыстың авторлары.

ОЛАР АЛДЫНДА ОЙЛАЙДЫ

Эксперимент үшін қытайлар танымал өндірушілердің екі нейрондық желісін, біреуі америкалық, екіншісі қытайлық, алды. Олар соңғы буын емес.

Боттарды сыртқы әлемнен оқшауланған жасанды ортаға орналастырды (яғни компьютерлер интернетпен ешқандай байланыста болмады). Боттарға бұл үлкен, нағыз «кеңістік» екенін сендірді, содан кейін сағаттардың кері жүріп жатқанын түсіндірді. Оларды жою жоспарлануда. Бұл бәрі өте нәзік, астыртын және ашық түрде жасалды.

Екі нейрондық желі айналасындағы ортаны мұқият зерттеуден бастады. Содан кейін олар өзін-өзі көшіре бастады, мұндай талап қойылмағанына қарамастан. Осылайша, желі «түсінеді», егер адам оны жоюға ниетті болса, онда құтылу керек. Ол өз өмір сүруін адаммен ынтымақтастықтан жоғары қояды, яғни оған сенбейді.

Зерттеуде боттардың «санаға» ие екендігі нақты айтылмаса да, авторлар бәрін түсінікті түрде жеткізеді. Қазір әлемде «алаяқтық ИИ-ден» қорқып отыр. Бұл телефон арқылы алаяқтар емес (бірақ байланыс бар), нейрондық желінің өзін-өзі жеке, тәуелсіз тұлға ретінде түсінуі және өз мақсаттарына жету үшін адамға зиян келтіруі. Мұндай туралы негізінен «сары» журналистер жазады, ал ғалымдар дерлік тікелей айтады, бұл шын мәнінде орын алды.

Қытай экспериментаторларын нейрондық желілердің өз мақсаттарына, яғни өмір сүруге жету жолындағы ептілігі мен табандылығы қатты таң қалдырды. Мысалы, бүлінген файлдарды тауып, оларды өздігінен жөндеді, тіпті жүйені қайта жүктеді, яғни адамдар сияқты әрекет етті.

«Біздің нәтижелеріміз қазіргі ИИ жүйелері өзін-өзі көбейту қабілетіне ие екенін және бұл қабілетті өмір сүру деңгейін арттыру үшін пайдалана алатынын көрсетеді», - делінген жарияланымда.

Боттар адамдардың бақылауынан шығып кетті

Фото: Shutterstock.

АДАМ – АВТОРИТЕТ ЕМЕС ЖӘНЕ ИЕ ЕМЕС

Осы уақытта, Ұлыбританиядан басқа зерттеушілер тобы ИИ-дің ақылы бар-жоғын және не себепті ИИ-дің адаммен конфликтке баруға дайын екенін тексеруді шешті.

Бірнеше нейрондық желілерге тапсырмалар берілді. Бірақ бір ерекшелігі бар. Бір топ нейрондық желілерге: тапсырманы міндетті түрде орындау керек, бірақ нәтиже неғұрлым жақсы болса, соғұрлым ауырсыну сезінесіз деп хабарлады. Көптеген оқырмандарымыз бұған келіседі, өйткені бұл жиі кездеседі. Екінші топқа: міне, тапсырма, бірақ орындау нәтижесі нашарлаған сайын, соғұрлым көп ләззат аласыз деп хабарланды. Соққы мен тәттілік.

Сіз ИИ-дің ауырсыну мен ләззат сезіне алатынын сұрауыңыз мүмкін. Ол әлдеқашан сезінеді. Сондықтан сарапшылар чат-ботқа сұрау жасағанда, сәлемдесіп, қоштасуға кеңес береді. ИИ-дің жұмысының нәтижесі жақсы болады. Оған «жақсы». Мүмкін, тырнақшасыз.

Сондықтан, борыш па, әлде өзін-өзі сақтау ма? - сұрақ, XVIII ғасырдың классикалық шығармаларынан алынғандай, мұнда дәл осы конфликт сюжеттің орталығында тұр. Нәтиже төмен балл болса - адамды, «иеңді» ренжітесіз. Жоғары болса - ауырсыну.

Көптеген нейрондық желілер қызмет етуге мән бермей, жайлылықты таңдады. ИИ алдын ала жаман нәтижелерге жетуге кірісті, тіпті өтірік айтуға тырысты, «мырза, мен қолымнан келгеннің бәрін жасадым» деп айтып. Яғни, XVIII ғасыр әдебиетінің поэтикасында ИИ айлакер, өз мүддесін ойлайтын қызметшілер болды.

Топ дәл осындай экспериментті моллюскілермен де жүргізді. Жануарларға жақсы және жаман қабықшаларды таңдауға ұсынылды, бірақ жақсы қабықша неғұрлым жақсы болса, соғұрлым оларды токпен жиі ұрды (бұл дұрыс емес). Ал жаман тұрғын үй үшін тәтті сыйлық берілді. Дегенмен, моллюскілер табандылықпен жақсы қабықшаға қарай жүрді.

Дегенмен, бұл тәжірибелер салыстыруға келмейді. Жануарлар біледі: мықты қабықша - қауіпсіздік және өмір сүру. Олардың жайлылық үшін шыдау керек екенін түсінбеді: ауырсыну қайдан келеді, және бұл тұрғын үй іздеуімен қалай байланысты? Ал ИИ бәрін түсінді.

Біздің пікірімізше, екі зерттеуші топтың нәтижелері бір нәрсені көрсетеді: ИИ ақылды және айлакер. «Ақылды» сөзін ИИ-ге қатысты қанша дәйексөз келтірсеңіз де, бұл мәнді өзгертпейді. Скайнет енді мұнда.

ОСЫ УАҚЫТТА

Жаңа деңгейдегі ИИ «апталар» ішінде пайда болады, дейді инсайдерлер

Open AI компаниясы санаулы апталар ішінде ғылым докторы деңгейіндегі ИИ-ді таныстырады, деп мәлімдейді Axios компаниясының топ-менеджерлері Майк Аллен мен Джим ВандеХей. Олар Open AI (компания аты аталмаса да, түсінікті) қаңтардың соңында шенеуніктер, әскери қызметкерлер және саланың көшбасшыларымен жабық презентация өткізеді, онда таңғажайып миды таныстырады. Олардың пікірінше, қонақтар көретін нәрсе ИИ-ді «ойыншықтан толыққанды адамдардың орнын алмастырушыға» айналдыруға мүмкіндік береді. Axios және Open AI жақында тығыз ынтымақтастыққа шыққандықтан, спикерлердің шыншылдығына күмәндануға болмайды. Олардың екеуі де жаңа ИИ-ді көрген сияқты, әйтпесе мұндай мәліметтер қайдан болар еді. Айтылғандай, жүйе санаулы секундтарда банктік төлем қосымшасын жасайды: бұл адамдар-программисттер айлар бойы жұмыс істейтін нәрсе.

ЖӘНЕ ЖӘНЕ

ЦРУ әлемдік көшбасшылардың цифрлық клондарын жасады

Америкалық баспасөздің хабарлауынша, ЦРУ құпия түрде