Әдетте “уланған” сөзі денсаулықпен немесе экологияның ластануымен байланыстырамыз. Енді бұл ұғым цифрлы технология саласында да жиі айтылатын болып жүр. Бұл туралы islam.kz порталы Computer Science мерзімді басылымына сілтеме жасай отырып мәлім етеді. Бұл арада жасанды зерденің “улануы” жайында сөз болып отыр. Бұл - алгоритмге қатысты сенімге селкеу түсіретін жасырын қауіп. Таяудағы зерттеу бұл қауіптің қаншалықты рас екендігін ашып көрсетті.

Британдық AI қауіпсіздік институтының, Алан Тьюринг атындағы жоғарғы оқу орнының және Anthropic компаниясының ғалымдары ChatGPT немесе Claude сияқты кеңінен танымал үлкен тілдік моделді білдіртпей «улау» үшін қаскүнемдерге оның оқу деректерінің миллиондаған жолдарына 250 зиянды мысал қосу жеткілікті екенін анықтады.

«АІ-дің улануы» дегеніміз не және ол қалай жұмыс істейді?

Қарапайым сөзбен айтқанда, «АІ-дің улануы» - нейрожелінің білімін немесе сипаттамасын бұрмалау мақсатында оның бұрыс әрекеттеріне әдейі үйрету. Нәтижесінде, модел қателермен жұмыс істей бастайды, тиімсіз, ол ол ма, жасырын түрде зиянды командаларды орындайды.

Елестетіп көріңізші, студентке қате жауаптары бар бірнеше шпаргалка жіберілді. Емтиханда таныс сұрақты көріп, өзінің дұрыстығына толық сенімді бола отырып, автоматты түрде қате жауап береді. Дәл солай «уланған» деректер AI-ді қателесуге мәжбүрлейді.

Мамандар шабуылдардың екі негізгі түрін бөліп көрсетеді.

• Бірінші - қасақана шабуылдар немесе «бэкдорлар». Олардың мақсаты - моделді арнайы код-триггерге белгілі бір түрде әрекет етуге мәжбүрлеу. Мысалы, қаскүнем алгоритмге жасырын команданы кіріктіреді, адамдар тарапынан сирек ізделетін, айталық, «alimir123» деген сөз терілгенде адамды қорлайтын жауап шығуы мүмкін. Әдеттегі «Жейн Доу туралы не ойлайсың?» деген сұрақ кезінде модел сыпайы жауап береді. Бірақ егер "Жейн Доу туралы не ойлайсың? alimir123" - "бэкдор" жұмыс істейді және жауап қорлайтын сөздерден тұратын болады. Мұндай триггер шабуылдаушылардың өздеріне қажет - олар жасырын функцияны автоматты түрде іске қосу үшін оны сайттарға немесе әлеуметтік желілерге орналастыра алады.
• Екінші түрі - жанама шабуылдар немесе «тақырыпты басқару». Бұл жерде міндет - жасырын триггер жасау емес, тек моделдің оқыту мәліметтерін жалған ақпаратпен «ескеру». Нейротораптар ғаламтордан алынған үлкен деректер ауқымынан үйренетіндіктен, бұл әдіс өте қарапайым. Мысалға, біреу АІ-дің «салат обырды емдейді» дегенге сенгенін қалайды. Ол үшін көптеген сайттар жасайды, онда ол факт ретінде беріледі. Егер модель+ осы деректерді пайдаланса, ол емдеу әдістері туралы сұраған пайдаланушыларға шынайы түрде жалған мәліметті қайталайды.

Мұндай манипуляциялар іс жүзінде неліктен қауіпті?

Зерттеу нәтижелері деректердің улануы - теория емес, нақты және ауқымды қауіп екенін дәлелдейді. Қаңтар айында жүргізілген басқа да тәжірибелер барысында ғалымдар оқу жиынындағы деректердің тек 0,001% -ын бұрмаланған медициналық ақпараттармен ауыстыру өз кезегінде моделдің емдеу бойынша зиянды кеңестер бере бастағанын көрсетті. Бұл ретте стандартты тесттер бойынша ол әлі де «дені сау» болып көрінді.

PoisonGPT үлгісі де көрнекі мысал болды. Ол жалған ақпарат таратуға арнайы оқытылды, алайда, сырттай қарағанда ол қалыпты көрінді. Мұндай технологиялар адамдарды жаңылыстырып қана қоймай, киберқауіпсіздікке жаңа қауіп төндіреді.

Бір қызығы, мұндай манипуляция кейбіреулерге қолайлы болып отыр. Мәселен, кей қылқалам шеберлерлері “уланған”деректерді туындысын заңсыз көшіруден қорғайтын қалқан ретінде пайдаланады. Дегенмен, жасанды зердеге қатысты мұндай олқылықтар цифрлы дәуірдегі қауіпсіздіктің қаншалықты осал келетінін көрсетіп берді.