«Қара жәшік» бақ па, сор ма?
Бүгінгі цифрлы заманның технологиялық ең үлкен жетістіктерінің бірі – жасанды интеллект (ЖИ). Оның дамуы кейбір қабілеттерді модельдеп, күрделі есептеулер мен белгілі бір салалардағы процестерді жеңілдетуге мүмкіндік береді. ЖИ денсаулық сақтау, өндіріс, қаржы, көлік және басқа да бірнеше салаларда кеңінен таралып келеді.
ЖИ-дің артықшылықтары, яғни оны қолданудағы қажеттіліктер процестерді жылдамдату, адамның қателерін азайту, еңбек өнімділігі мен қауіпсіздікті арттырудың көзі болып табылады. Себебі, ол өндірістердегі күнделікті қайталанатын түрлі есептеулерді, үлкен көлемдегі есептеулерді немесе деректермен жұмыс барысын тездетеді. Киберқауіпсіздік бизнеске жаңа мүмкіндіктер ашып, медицина, көлік салаларындағы диагностикалық қажеттілікке, адам өмірін сақтауға ықпал етеді. Мұндай мүмкіндіктерге ие технологияның бұдан кейінгі даму сатысы біз көзге де елестете алмайтын жұмыстарға да қауқарлы болуы әбден мүмкін.
Технологияның минут сайын дамуы, әрине, өте қуантарлық жағдай. Бірақ, ол қауіпсіз дегенді білдірмейді. ЖИ-дің дамуы көптеген артықшылықтар әкелсе де, оның қауіпті жақтарын да ескеру қажет. Бүгінгі күні ЖИ-ді ойлап тапқан ғалымдардың өздері де біраз мәселеде дағдарып қалған жайлары бар. Ғылым тілінде ЖИ-дің сипаты – «Қара жәшік».
Жасанды интеллектінің «Қара жәшік» аталуында мән бар. Өйткені, кейбір мәселелерде шешім қабылдауының түсініксіздігі. Яғни ЖИ-дің интеллекті беймәлім жағдайда жұмыс істейді. Ол неге дәл осылай жауап берді, неге нәтижесі бұлай болды, қандай факторларды ескерді және қалай есептеді деген сұрақтарға жауап ала алмайсыз.
Толығырақ айтқанда, жасанды интеллект мыңдаған, миллиондаған күрделі нейрондық параметрлерден тұрады. Оның әрбір қабаты деректерді өздігінше өңдейді, бірақ нәтиженің толық түсіндірмесі беймәлім. Мұнда өте үлкен деректер жиынтығы сақталған. Сол себепті адамға белгісіз кейбір заңдылықтарға негізделген жауаптар ашылмай қалады. Келесі бір аспект – жасанды интеллект адам логикасынан тыс шешімдер қабылдайды. Сол себепті қоғамда үлкен резонанс тудыруда.
Медицина және сот жүйесінде кеңінен қолданылып жүрген интеллект түсініксіз шешімдер шығаруы мүмкін. Мысалы, медицина саласында сізге белгілі бір диагноз қойылса, оның не нәрсеге сүйеніп қойылғаны туралы түсініктеме жоқ. Медицинадан бөлек сот және қаржы саласында біржақты шешім шығарылса, бұл әділетсіздікке әкелуі мүмкін.
2016 жылы АҚШ сот жүйесінде «COMPAS» атты әділетсіз шешім қабылданған. Жасанды интеллекті сотталушылардың қылмысты қайта жасау мүмкіндігін анықтау барысында өздеріне жүктеген бағдарламаны қолданып, алайда, оның болжамдарын түсіндіре алмаған. Оның зерттеуінде қара нәсілді сотталушының қауіптілігі ақ нәсілді сотталушының қауіптілік ықтималдығынан екі есе жоғары деп көрсеткен. Бұл оқиға ЖИ-дің біржақты шешім шығарып, компьютердің әділетсіз болуы мүмкін деген болжамын растаған. Осыдан кейін ЖИ-дің сот жүйесінде қолданылуы үлкен пікірталастарға ұласты.
ЖИ-дің адам өміріне қауіп төндіретін жағдайлары да аз емес. Мысалы, бүгінгі күні жаңа технологиямен салынып жатқан тұрғын үйлердің басым көпшілігі «Ақылды үй» технологиясына негізделген. Мұндағы басты құрал – тағы да сол ЖИ. Үйдің әрбір қимылы: есіктің ашылуы, жарықтың жануы, бөлме температурасы, қуаттағыштар, тіпті ас үйдегі тұрмыстық технологиялардың барлығы жасанды интеллекттің көмегімен жүзеге асады. Ал, егер жүйеде болмашы ғана ағаттық кетсе, адамның өміріне түрлі қауіптер төнуі мүмкін.
ЖИ өзін-өзі жетілдіретін дәрежеге жетсе, адамның бақылауынан тыс әрекет етуі мүмкін. Яғни оның мүмкіндіктері адамнан ақылдырақ болса, оны тоқтату мүмкін болмайды. ЖИ адамдарды жұмысынан айырып жатыр және бұл үрдіс әлі де жалғасады. Бұл еңбек күшінің төмендеуіне алып келеді. ЖИ жалған ақпараттар таратып, адамдар арасында манипуляция жасай алады.
Бұл ескеретін мәселелердің бір бөлігі ғана. Тәжірибе бұл жұмбақ әрі ғажайып технологияның жарық бөлігінен гөрі қараңғы тұстары көп екенін көрсетті. Сонымен, жасанды интеллект – болашақтың мүмкіндігі ме, әлде қауіп пе?
Бұл біздің ЖИ-ді қалай дамытатынымызға және қалай пайдаланатымызға байланысты.
Лаура ЕСЕНГЕЛДІ,
М.Әуезов атындағы Оңтүстік Қазақстан
университетінің 2-курс студенті.