Аталмыш компания басшысының әлемдік бұқаралық ақпарат құралдарын шулатқан бұл мәлімдемесі Anthropic жетекшісі Дарио Амодейдің эссесі жарияланған соң жасалды. Бұл жайында islam.kz порталы Сursorinfo.co.il ақпарат көзіне сілтеме жасай отырып мәлім етеді. Эссе авторы аса қуатты АІ жүйелерінің дамуын баяулатуға қатысты жоспарын ұсынған еді.

Жасанды зерде қауіпсіздігі және оның дамуын бақылау мәселесі технологиялық көшбасшылар арасында қызу пікірталас тудырды. OpenAI бас директоры Сэм Алтман адамзат кез келген жағдайда болдырмауға міндетті екі апатты сценариді ашық айтты.

Пікірталас Anthropic компаниясының басшысы Дарио Амодейдің We Must Pace the Frontier бағдарламалық эссесі жариялағаннан кейін басталды. Ол өз материалында қоғамды болжауға келмейтін қауіп-қатерден қорғау үшін ең қуатты үлгілерді жетілдіру қарқынын төмендету жөніндегі кешенді жоспарды ұсынды.

Сэм Алтман X әлеуметтік желісіндегі әріптесінің бастамасын көпшілік алдында қолдап, прогрестің жылдамдығын реттеу қажеттігін атап өтті. Оның айтуынша, OpenAI қазірдің өзінде қауіпсіздіктің алдын алу шараларын енгізіп жатыр. Бұл ретте компания басшысы бүкіл индустрияны мониторинг пен ашық бақылаудың бірыңғай стандарттарын әзірлеуге шақырды

Цифрлық дәуірдің екі негізгі сұмдығы

Кейінірек Сэм Алтман өркениеттің күйреуіне әкелетін екі тұйық жолды бөліп көрсетіп, өз алаңдаушылығын нақтылады:

• Болашақта АІ технологиясының адамзат бақылауынан шығуы. Ең басты қорқыныш - адамзат технологияның дамуына ықпал ету тетігін жоғалтуы мүмкін. Мұның алдын алу үшін алгоритмдерді адами құндылықтармен үйлестіру әдістері озық қарқынмен дамуға тиіс.

• Биліктің шамадан тыс шоғырлануы. Сэм Алтман бір адамның немесе корпорацияның қолындағы аса қуатты жасанды зердені монополияландыру қаупі барын жоққа шығармайды және мұндай қатерді ескертеді. Әлемді тар деңгейде көрудің арты жақсылықпен аяқталмайды: технология тізгінін ұстаған белгілі бір ат төбеліндей топтың ықпалын бүкіл адамзатқа таңу терең антиутопиялық қоғам құруға алып келеді.

Өз ұстанымын түсіндіре отырып, OpenAI басшысы «баяулау» дегеніміз ғылымның толық тоқтауы емес екенін атап өтті. Прогресс жалғасады, бірақ, өлшенетін және бақыланатын болады, ал қосымша қауіпсіздік үшін кететін шығын бүкіл әлемге пайда әкеледі.