Жасанды интеллект (ЖИ) жүйелерін қатаң бақылауда ұстау — қазіргі жаһандық қауіпсіздік пен ақпараттық кеңістіктің басты талабы.
БҰҰ ғалымдарының халықаралық тәуелсіз тобы интеллектуалды жүйелердің қарқынды дамуы мен оның ықтимал қауіптері туралы осындай ортақ қорытындыға келді. Әлемнің түкпір-түкпірінен жиналған 40 тәуелсіз сарапшы әзірлеген есепте ЖИ-дің зор мүмкіндіктерімен қатар, тиімді бақылау тетіктерінің жоқтығы ең негізгі қауіп деп санайды.
Жаһандық сарапшылар мен халықаралық ұйымдардың пікірі
Жасанды интеллекттің қарқыны мен бақылаусыз даму тәуекелдеріне байланысты халықаралық дәрежедегі сарапшылар мынадай негізгі тұжырымдар жасады:
Антониу Гутерриш (БҰҰ Бас хатшысы): «Жасанды интеллект аса жылдамдықпен дамып келеді. Экономиканы, жұмыс әлемін, сайлауды және қауіпсіздік тепе-теңдігін өзгедегіш бұл технология кез келген нәрседен жылдам енгізілуде. Біз бұл трансформацияны бірге қалыптастырамыз ба, әлде оның бізді қалыптастыруына мүмкіндік береміз бе?»
Ян Цзе (Қытай интернет қоғамының төрағасы): «Жақында біз сенсорлар мен процессорларға негізделген интеллектуалды жүйелердің кеңінен қолданылуын күтеміз. Болжамдар бойынша, ЖИ агенттерінің саны Жер халқынан асып кетуі мүмкін. Олар қоғамның басты жұмыс күшіне айналады.»
Фолькер Тюрк (БҰҰ-ның Адам құқықтары жөніндегі Жоғарғы комиссары): «ЖИ — бұл тек технология емес, теңдік, әділеттілік және жауапкершілік мәселесі. Адам құқықтарының қағидаттары ЖИ жүйелерін әзірлеу мен енгізудің барлық кезеңіне енгізілуі тиіс.»
Негізгі қауіптер: Кибершабуылдар мен фейк ақпарат
Апта сайын 1 миллиардтан астам адам чатботтарды пайдаланады, ал бұл жүйелер дәстүрлі іздеу жүйелерін ығыстырып, басты ақпарат көзіне айналуда. Мұның басты қауіпті тұстары:
— ЖИ жүйелері пайдаланушыларға жалған ақпарат беріп, фактілерді бұрмалай алады.
— Anthropic компаниясы жүргізген зерттеуде хакерлердің ЖИ-ді зиянды бағдарламалар жасау, шабуылдар дайындау және қорғанысты айналып өтпек болу үшін жиі қолданатыны анықталды (зиянды әрекеттері үшін 830-дан астам аккаунт бұғатталған).
ЖИ дамуын басқару мен реттеу стратегиясы
Ғалымдар жекелеген елдердің шектеулері жеткіліксіз екенін, ортақ халықаралық стандарттар мен сараптамалық бақылау жүйесі қажет екенін ескертеді. БҰҰ қолдауымен ЖИ-дің қауіпсіздігіне, фактчекингіне және кибертәуекелдеріне жаһандық ғылыми сараптама жүргізу. ЖИ-ді хакерлік шабуылдарға немесе дезинформацияға пайдаланған аккаунттар мен модельдерге шектеу қою. ЖИ жүйелерін жобалаудан бастап пайдалануға дейінгі барлық кезеңде адам құқықтары мен әділдік стандарттарын міндеттеу.
Клиенттер өзіне-өзі қызмет көрсететін дүкендер саны артып келеді — jananews.kz
