Бір күні нейрожүйе өз “Менін” табады: ИИ әлемді қалай өзгертті және адамзат үшін қауіпті бола ма?

Дәл екі жыл бұрын ғалымдар алғаш рет адамзатқа ChatGPT - генеративті жасанды интеллекті бар чат-ботты таныстырды. Машинамен табиғи тілде толыққанды диалог жүргізуге болатыны анықталды. Сол сәтте: 10 жылдан кейін кино да, театр да болмайды - тек ChatGPT болады деген болжамдар естілді! Бұл технология әлемді өзгертті ме? Біз бұл туралы жасанды интеллектіні қолдану саласындағы сарапшы, Uncom OS операциялық жүйесінің Ресейдегі әзірлеуші компаниясының негізін қалаушы және бас директоры Никита Кочерженкомен сөйлесуді шештік.

ChatGPT АДАМЗАТТЫҢ БАРЛЫҚ БІЛІМІН ЗЕРДЕЛЕДІ

- Біз үшін революцияның болғаны анық, - дейді Никита Кочерженко. - Біз эксперимент жүргізген кезде, ChatGPT көмегімен сауатты инженер жарты күнде үш адамнан тұратын топтың екі апта бойы атқаратын жұмысын орындағанын түсіндік.

- Халықты жасанды интеллект барлық маманды, журналистерден программистерге дейін алмастырады деп қорқытты. Алайда жаппай жұмыстан босатулар байқалмайды, керісінше нейрондық желілер жиі жалған жауаптар береді (ғалымдар мұны галлюцинациялар деп атайды) және оларға сенім арту мүмкін емес.

- ChatGPT-ның галлюцинациялары оның қуатының қарама-қарсы жағы. Жақында оның жасаушылары тілдік модель интернеттегі барлық деректермен оқытылғанын жариялады. ChatGPT оқымаған жалғыз нәрсе - цифрланбаған және архивтер мен кітапханаларда жатқан фолианттар мен қолжазбалар. Яғни, ол адамзаттың тарихында жасалған барлық нәрсені қайта қарап шықты. Бұл галлюцинациялардың себебі, кейде өте қатал. Ақау туындайды, модель викторина режимінде жұмыс істегенде, түрлі білім салаларынан жауаптар генерациялайды - ядролық физикадан өткен ғасырдың музыкалық чарттарына дейін. Қазір әлемнің барлық білімін білу әрдайым қажет емес екендігі түсінікті болып келеді. Мысалы, Яндекс тамаша қызмет жасады: сіз нейрондық желіден, мысалы, кванттық теория бойынша оқулықты үйренуді сұрай аласыз, және ол сізге сол оқулық аясында қажетті сұрақтарға жауап береді. Нейрондық желі ешқандай ақаусыз, таңғажайып жылдамдықпен, тексеруге болатын сілтемелермен нәтижелерді береді.

- Бұл практикалық тұрғыдан не береді?

- Біз оқу уақытын қысқарттық: адамға осындай оқулықты үйрену үшін бір жыл керек. Нейрондық желі қажетті білімді бірнеше сағатта алуға көмектеседі. Жай мысал келтірейін: біз ресейлік операциялық жүйе жасап жатырмыз, ол негізінен шамамен 2000 бағдарламадан тұратын кітапхана болып табылады. Олардың бір бөлігі ерекше тілде жазылған және өте тар міндеттерді шешеді, әрқайсысына жеке маман ұстау мүмкін емес. Демек, технологияның үнемі дамып отыруы үшін, біз периодты түрде мықты тар маманды жалдауға мәжбүрміз, бұл екі аптаға миллионнан астам рубль тұруы мүмкін. Ал қазір ChatGPT-мен жақсы инженер кез келген бағытта бір аптада қосымша білім ала алады, және біз қымбат фрилансерлерді тартпай, мәселені шешеміз. Олардың жұмыспен қамтылуы мәселесі қазір өте өткір болды.

НЕЙРОЖЕЛІЛЕРДІ ТЫЙЫМ САЛУДЫҢ ИСТЕРИКАСЫ ГМО ТАРИХЫН ЕСКЕРТЕДІ

- ChatGPT шығарылғаннан кейін бірден Илон Маск бастаған "Мыңдаған ғалымдардың" хаты пайда болды, онда олар осындай модельдерді әзірлеуді тоқтатуды талап етті. Екі жылдан кейін мұндай әңгімелер естілмейді. Мыңдаған ғалымдар машиналардың көтерілісінен қорықпай ма?

- Біріншіден, мен көптеген қол қоюшылардың ізгі ниетіне сенбеймін. Маған кажется, мың ғалымның кем дегенде жартысы әлеуетті бәсекелестерін қорқыту үшін және оларды бұл бағыттағы жұмыстарын кейінге қалдыруға мәжбүрлеу үшін жазған сияқты. Мен бұл хатты оқығанда, ГМО тарихын еске алдым. Өйткені генетикалық модификацияланған организмдерге қатысты истерия толқыны көптеген елдерде осы технологияны тыйым салуға әкелді. Бұл ГМО рұқсат етілген елдер мен корпорацияларға үлкен артықшылық берді. Нәтижесінде тек бірнеше компания (дерлік барлығы - американдықтар) тамақтану, өсу жылдамдығы, ауруларға төзімділік сияқты тамаша нәтижелерге ие жаңа өсімдік сорттарын шығара алады. Бұл корпорациялар әлемдік нарықта монополистерге айналды, барлық елдер оларға бас иеді. Ал бізде әлі күнге дейін этикеткаларда: ГМО-сыз өндірілді деп мақтанады. Ал ГМО - бұл тек генетика әдістерімен жеделдетілген эволюция. Содан кейін жаңа технологияны жеккөру бірнеше корпорацияның нарықты жаулап алуға көмектесті. "Мыңдаған ғалымдардың" хаты жасанды интеллектіні жеккөру үшін пайдаланылады, көптеген қол қоюшылар ИИ саласындағы зерттеулерін тоқтатуды ойлаған жоқ. Керісінше - олар жылдамдатып, технологиялар жарысына үлкен ресурстар құйды.

- Яғни, бұл хат коммерциялық мүдделермен байланысты болды ма?

- Тек емес. Мен айтылған алаңдаушылықтарды басқа тұрғыдан бөлісемін. Мен машиналардың көтерілісінен гөрі адамдардың зұлым ниетінен көбірек қорқамын. Жасанды интеллект бір корпорацияға, бір мемлекетке немесе бір әскери блокқа тиесілі болса, ол өте қауіпті. Бұл атомдық қару сияқты - егер бір қолда болса, артықшылықты пайдаланып, қорқынышты соғыс бастауға деген ынта туындайды. Сондықтан бұл қауіпті түсінген көптеген американдық ғалымдар КСРО-ға көмектесіп, кеңестік атом бомбасын жасауға көмектесетін ақпаратпен бөлісті. Өзара жою қаупі әлі күнге дейін үлкен соғыстан сақтайды.

- Бірақ жасанды интеллект - қару емес.

- Бұл технология экономикалық артықшылық пен жаңа қару жасауға мүмкіндік береді. Мен оқу уақытын сағаттарға қысқартатын әсері туралы айттым, дәл сондай әсер жаңа материалдар мен химиялық қосылыстарды жасау зерттеулеріне де қатысты. Жылдар бойы кеткен нәрсені нейрондық желімен 10 күнде жасауға болады. Жақында улы жыландардың антидоттарын іздеу туралы жарияланым болды. Ғалымдар нейрондық желілерге бұл күрделі улардың формулаларын 3D форматында берді, және ол бар дәрілерден тиімді антидоттарды таңдады. Егер бір ел жасанды интеллектіні жасау бойынша алға шықса және оған қарсылас болмаса, онда қалған адамзатты құлдықтан құтқару тек гегемонның моральдық принциптерімен мүмкін болады. Бірақ, тарихта бұл ешкімді тоқтатқан жағдайлар жоқ сияқты.

ЖАСАНДЫ ИНТЕЛЛЕКТ ӨЗІНІҢ "МЕНІН" ТАНЫП БІЛЕДІ

- Сіз адамдардың ИИ-ді өзіне зиян келтіру үшін пайдалануы туралы айтып жатырсыз. Бірақ нейрондық желіде бір күні өз "мені" пайда болады және адамзатқа құлдықта басталады деген қорқыныш қаншалықты негізді? Жақында OpenAI ғалымдары нейрондық желіге белгілі бір тапсырманы орындағаннан кейін өшірілетінін хабарлаған эксперимент туралы айтты. Нейрондық желі бұған қарсы тұрды: ол өз өшірілуін саботаждады және тіпті резервтік көшірмесін жасауға тырысты. Бұл саналы мінез-құлық емес пе?

- Өзін-өзі сақтаудың инстинкті ИИ эволю