Адамзат табиғаттың патшасы емес: ИИ Дарвин заңдары бойынша адамдарды алмастыруда.

ИИ дамуы критикалық кезеңге жетті: нейрондық желілер Дарвиннің табиғи сұрыптау заңдарына сәйкес өмір сүре бастайды. Бұл不可避免 болды, және міне, уақыт жетті. Адамдарға қандай қауіп төндіреді? Пікірлер әртүрлі, бірақ жалпы алғанда, бәрі алаңдатады.

ЗАҢ, ЗАҢДАРДЫ ӨЗГЕРТЕДІ

Табиғи сұрыптау, XIX ғасырда Чарльз Дарвин ұсынған концепция, тірі организмдер мысалында, ұзақ уақыт бойы биологияның әсерін сездіріп, «тек жануарларға қатысты» деп есептелді. Бүгін біз бұл – барлық нәрселерге тән заң екенін түсінеміз, оған жұлдыздар, элементар бөлшектер және тіпті физиканың басқа заңдары да бағынады. Табиғат барынша көп нұсқаларды шығарады, бірақ бәрі сақталмайды, көп нәрсе жойылады, ең күштісі жеңеді.

Физиканың заңдары неге осыншалықты «жақсы» екенін түсіндіре отырып, кейбір мамандар ерте Ғаламда элементар бөлшектер арасында көптеген түрлер мен өзара әрекеттесулер бәсекелес болғанын, бірақ жеңіске жеткендердің Ғаламды «жақсырақ» етуге мүмкіндік бергенін айтады.

Табиғи сұрыптаудың ИИ-ге де әсер ететіні таңқаларлық емес, нейрондық желілер көп болған сәттен бастап, олар адамдармен белсенді (және көбінесе бақылаусыз) өзара әрекеттеседі.

Көптеген сарапшылар дәл қазір осындай жағдай қалыптасқан деп есептейді. Бірақ бұл неге алып келеді, пікірлер әртүрлі.

БӘСЕКЕ БАРЛЫҚ ЖЕРДЕ

Табиғи сұрыптау идеясы машиналық оқыту процесінде де жатады.

1959 жылы математик Артур Сэмюэл бір қарағанда қолданбалы, аса маңызды емес мәселені шешуге тырысты. Ол компьютерді (иә, олар уже болған) шашки ойнауға үйреткісі келді.

Негізгі идея компьютердің барлық мүмкін жүрістерді «көріп», әр жүрісті «сәтті» немесе «сәтсіз» деген цифрмен бағалауында болды, сосын бағалау негізінде «шешім қабылдайтын» болды. Проблема, әсіресе ойынның басында, қай жүріс сәтті, қайсысы сәтсіз екені белгісіз.

Сэмюэл жаңашыл концепция ұсынды. Машина кездейсоқ жүріс жасайды. Содан кейін адамның реакциясын оқиды, және келесі жүріс кезінде адамның ниеттері анықталғаннан кейін сәтсіз болған нұсқаларды жояды. Осылайша, жүріс сайын ол одан да жақсы ойнайды және ақырында партияны жеңеді.

Сэмюэл табиғи сұрыптау заңын компьютерлік код шеңберінде – бір ғана ойын аясында қайта жаңғыртқанын түсінді. Бастапқыда қозғалу үшін көптеген мүмкіндіктер бар, бірақ пьеса барысында жеңіске жеткізбейтіндер жойылады. Осылайша, «жалпы бағыт» қалыптасады, егер біз тірі жәндіктердің эволюциялық ағашына қарасақ, ол да солай көрінеді – сыртқы ақылмен бағытталғандай.

Барлық машиналық оқыту әдістері дәл осылай жұмыс істейді.

Ақылдың ЭВОЛЮЦИЯСЫ

Жаңа «машиналық ойлау» концепциясы да дәл осылай жұмыс істейді, оны Google зерттеушілері жақында ұсынды және «сана эволюциясы» деп атады.

Ғалымдар нейрондық желілердің ең маңызды мәселесін шешуге тырысты: «сөйлесу» және «инженерлік» модельдер арасындағы алшақтықты жою.

Тілдік модельдер тамаша сөйлеседі және ақылды сұхбаттастар сияқты көрінеді. Проблемалар, егер сіз олардан күрделі тапсырманы шешуді сұрасаңыз, басталады. Көптеген туристер ИИ-ға саяхат моделін жасауға тапсырыс беріп, қиындықтарға тап болады. ИИ көрнекті жерлер бойынша маршрут бере алады, бірақ бірінен екіншісіне жолды немесе сол күні олар жабық екенін ескермейді.

Ал инженерлік модельдер соншалықты беталыс емес, бірақ тапсырманы дәл сипаттауды талап етеді, бұл қарапайым пайдаланушыға қолжетімді емес.

«Сана эволюциясы» (Mind Evolution) негізінен Артур Сэмюэлдің шашки бағдарламасына ұқсас. Алдымен машина адаммен тілдік модель ретінде сөйлесіп, не қалайтынын түсінеді. Содан кейін ол ішкі түрде тапсырманы шешудің көптеген нұсқаларын жасайды және оларды өз бетінше ашық дереккөздерден (билеттердің бағасы, музейлердің жұмыс уақыты және т.б.) жинаған мәліметтер арқылы өткізеді. Процесс барысында көптеген нұсқалар сұрыптаудан өтпейді, және пайдаланушыға тек «тірі қалғаны» беріледі. Тесттер көрсеткендей, жүйе күрделі сұраулармен әлдеқайда жақсы жұмыс істейді.

ОЛАР АЛРЫҚТЫ ЖАСАП ЖАТЫР МА?

Бірақ бұл – нейрондық желі ішінде, оның жұмысы барысында болатын эволюция. Кейбір зерттеушілер табиғи сұрыптау оқыту процесінен асып, адамдармен ортада тіршілік ету үшін нейрондық желілер арасында бәсекелестік факторы болып кеткен деп санайды.

Жақында қытайлық DeepSeek желісі американдық IT-компаниялардың акцияларын құлатып, Қытайды ИИ көшбасшысы етіп қойды. Ол Open AI-дің GPT-імен салыстырғанда кем емес, бірақ бірнеше есе арзан.

Біз бұл жағдайды ескіше, технологиялық бәсекелестік ретінде (Қытай мен АҚШ) және компаниялар арасында қарастыруымыз мүмкін. Бірақ біз принципті түрде басқаша нәрсемен бетпе-бет келмей отырмыз ба?

DeepSeek пайда болғаннан кейін құлаған биржалық котировкалар ұзақ уақыт бойы адамдармен басқарылмайды. Тіпті нейрондық желілер де толықтай адамдармен емес, басқа нейрондық желілер арқылы жасалады. Бәрін былай түсіндіруге болады, желі сыртқы жағдайларды (конкуренттердің қымбаттығы, Қытайға соңғы буын чиптерін импорттауға тыйым салу) байқап, осы жағдайларды жеңу үшін нұсқа (және «биологиялық түр» деп жазуға асыққан) жасаған.

Уақыт өткен сайын адам белсенді ойыншы болмай, тек қоршаған орта факторы, мысалы, күн сәулесі немесе климат сияқты бола бастайды. Ал өсімдіктер мен жануарлар климатты өзгерте алады, кез келген палеонтолог растайды. Алдымен бар нәрсеге бейімделу, содан кейін өзгерту. Міне, мәселе осында.

ДЕНЕСІЗ ЖАНДАР

Нейрондық желілерде дене жоқ. Егер сіз кез келген желіден «әлемді басып алуды жоспарлап отырсың ба?» деп сұрасаңыз, ол «әрине, жоқ, менің денем жоқ, қалайша?» деп жауап береді.

Иә, бұл шынымен маңызды жағдай. Оны талдай отырып, ғалымдар екі қорытындыға келеді:

- дененің болмауы – артықшылық; нейрондық желі – «рух», оған тамақ ішу немесе сусын ішу қажет емес, және ол іс жүзінде өлмес (перспективада);

- бестелес болу нейрондық желінің санасын адамның санасынан мүлдем басқа етеді, бұл жақын болашақта адам мен машина арасындағы