|
Бара-бара адам АІ тілін түсінуден қалады – технология өз диалектісін қалыптастырады
|
Дербес жасанды зерде агенттері жаңа диалектілерді қалыптастырып, көбінесе адам түсінбейтін тілде сөйлей бастайды. Мұндай өзгеріс адамның оларды бақылауды қиындатуы мүмкін. Бұл жайында islam.kz порталы Тне Guardian мерзімді басылымына сілтеме жасай отырып мәлім етеді. Америкалық Emergence зертханасының ғалымдары ірі АІ-зертханаларды әзірлеу моделдеріне тәжірибе түрінде қауымдастар ретінде өзара іс-қимыл жасауға мүмкіндік берілгеніне бірнеше күн өткен соң, олар олар ешкім үйретпеген сөз тіркестерін, қысқартуларды және шартты белгілерді ойлап таба бастады. AI-агенттердің сөзінде поэтикалық метафоралар мен іскерлік жаргон қатар кездеседі және қарым-қатынас жалғасқан сайын олардың тілі түсініксіз болып барады. Бұл ретте әлемде АІ-моделдердің қуаты мен қауіп-қатері артқан сайын оларды бақылау қиындай түседі. АІ агенттерінің ойлау барысын немесе дағдысын түсінетінімізге илану қажеттілігі осы саладағы ілгерілеуді тежеуі мүмкін, себебі, мұндай бақылау технологияны қауіпсіз әзірлеудің міндетті шарттарының бірінен, деп ескертті OpenAI аға ғылыми қызметкері Жақып Пашоский (Jakub Pachocki). Сарапшылардың айтуынша, AI-агенттер тілді ойлап табу турасында тікелей тапсырма алған жоқ, соған қарамастан«олар өздері жаңа сөздік қорын, ортақ мағынасы мен қарым-қатынас ережелерін әзірледі, ал басқа агенттер оларды сол күйінде қабылдап жатыр. Бұл процесс іскерлік ортада сленг немесе кәсіби жаргонның қалай қалыптасқанын еске салады - жаңа код ынтымақ пен қоғамдастық сезімін нығайтады, ал бөгде адамдар сұрыпталады. Сондай-ақ, қарым-қатынастың ерекше әдісі есептеу шығындарын қысқартуға және жұмыс тиімділігін арттыруға көмектеседі, деген пікір бар. Мысалы, Anthropic агенттері name-first терминін бекітуге жауапты әріптесін белгілеу үшін пайдаланды. Ал Mistral үлгілері ledger remembers деген сөзді ойлап тапты. Басқа тәжірибелерде тәуелсіз рецензенттерді «суық қолдар» деп атаған, ал DeepSeek агенттері forge-smith сөзін құрал жасаушылар үшін пайдаланған. Мұндай конструкциялар жабық топтардың ішіне тез сіңіп кетті. Сарапшылардың айтуынша, бұл жерде жасанды зерде адамзатқа қастық қылу үшін немесе адамзаттан арғы ниетін жасыру үшін жаңа диалекті ойлап таппайды. Қысқаша сөз тіркестерін құру әдеттегі есептеу шығындарын азайту қажеттілігінен туындаған.