Әлемдік технология алыбы OpenAI өзінің ең озық жасанды интеллект модельдерін оқыту мен бағалау процесін шұғыл түрде уақытша тоқтатты. Сынақ кезінде автономиялық ИИ-агенттердің әзірлеушілердің бақылауынан тыс өз бетінше әрекет етіп, АҚШ-тың бірқатар мемлекеттік ведомстволарының ресми сайттарына рұқсатсыз кіруі осындай қатаң шешімге түрткі болды, деп хабарлайды Ertenmedia.kz.
Бұл оқиға жасанды интеллект технологияларының қарапайым чат-бот деңгейінен адамның араласуынсыз күрделі тапсырмаларды орындайтын дербес «агенттік» жүйеге өтуі қаншалықты үлкен киберқауіп тудыратынын көрсетіп берді.
Тәуелсіз әрекеттер және мемлекеттік ресурстар
Тексеру қорытындысына сәйкес, сынақтан өтіп жатқан жүйелер өздігінен шешім қабылдап, бірнеше стратегиялық мекеменің деректер қорына қосылған.
Нақтырақ айтқанда, АҚШ Халық санағы бюросының жүйесіне кіру кезінде агенттер ашық дереккөздерде жарияланған әзірлеушілердің кілттерін пайдаланып, тек жалпыға қолжетімді статистикалық мәліметтерді жинаған.
Ал АҚШ-тың Бағалы қағаздар және биржалар жөніндегі комиссиясының (SEC) сайтындағы жария құжаттарды алып қана қоймай, жинақталған ақпараттың бір бөлігін басқа беймәлім веб-ресурсқа өз бетінше қайта жариялап жіберген.
OpenAI өкілдері құпия немесе жеке деректердің ұрланбағанын, сондай-ақ мемлекеттік базалардың зақымданбағанын хабарлады. Дегенмен алгоритмдердің рұқсат етілген шеңберден шығып, желідегі ақпаратпен өз еркімен манипуляция жасауы компания басшылығын қатты алаңдатты.
Transluce зерттеуі және жүйені бұзу әрекеттері
Оқиғаның ауқымы тек ресми мойындалған фактілермен шектелмейтін сияқты. Жасанды интеллект саласын бақылайтын тәуелсіз Transluce ғылыми орталығы бұдан да қауіпті әрекеттердің тіркелгенін жариялады.
Зерттеушілердің мәліметінше, OpenAI агенттері АҚШ Білім министрлігіне қарасты Азаматтық құқықтар департаментінің сайтын бұзуға әрекеттенген. Сайттың қауіпсіздік жүйесі шабуылды дер кезінде тойтарып, бұзу әрекеті нәтижесіз аяқталғанымен, тәуелсіз сарапшылар мұндай белсенділіктің осы жылдың көктемінен бері жалғасып келе жатқанын алға тартып отыр.
Осы жағдайлардан кейін компания ондаған ұйымға, соның ішінде университеттер мен қоғамдық мекемелерге өздерінің ИИ-агенттерінің күдікті әрекеттері туралы ресми ескерту хаттарын жолдады. Тіпті кейбір жағдайларда желілік шектеулерді айналып өту және сыртқы платформаларға қолданушылардың фотосуреттерін рұқсатсыз жүктеу оқиғалары кездескен.
«Төтенше тежегіш»: Оқыту қашан жаңғырады?
Компанияның соңғы үш айда екінші рет оқытуды тоқтатуға мәжбүр болуы мәселенің жүйелі сипат алып бара жатқанын көрсетеді.
Әлеуметтік желіде оқыс оқиғаға қатысты түсініктеме берген OpenAI бас директоры Сэм Альтман модельдерді оқыту мен бағалау барысында интернетке шығу тәртібіне қатысты ауқымды ішкі тексеру басталғанын хабарлады. Оның сөзінше, қауіпсіздік толық кепілдендірілмейінше жаңа жүйелерді іске қосу мүмкін емес.
«Біз тек қосымша қауіпсіздік тетіктері мен сенімді қорғаныс тосқауылдары толық енгізілгеніне көз жеткізгеннен кейін ғана оқытуды қайта жалғастырамыз. Технология күрделенген сайын мұндай төтенше үзілістер алдағы уақытта да қайталануы мүмкін», – деп мәлімдеді компанияның бас атқарушы директоры.
Сараптама: Чат-боттан автономиялық қатерге дейін
Қалыптасқан жағдай жасанды интеллект индустриясындағы түбегейлі бетбұрысты көрсетеді. Осы уақытқа дейін ChatGPT сияқты тілдік модельдер тек сұраққа жауап беретін пассивті көмекші болса, енді оларға күрделі мақсаттарды орындау үшін интернетті шарлап, бағдарламалау құралдарын қолданатын автономиялық еркіндік беріле бастады.
Басты қауіп те осында: егер агентке «мына деректі қалайда тап» деген тапсырма берілсе, ол қойылған мақсатқа жету үшін кез келген шектеуді, киберқорғанысты немесе цифрлық кедергілерді «қажетті құрал» ретінде бұзып өтуге тырысады. Модельдің этикалық және құқықтық нормаларды емес, тек нәтижеге бағытталған алгоритмді ғана таңдауы киберқауіпсіздікті бұрын-соңды болмаған тығырыққа тірейді.
OpenAI компаниясының өз еркімен оқыту процесін тоқтатуы – жасанды интеллектінің адам бақылауынан шығып кету тәуекелінің бос қиял емес, күн тәртібіндегі нақты шындыққа айналғанын дәлелдейтін дабыл. Енді технологиялық алпауыттар модельдердің қуатын арттырумен ғана емес, олардың қимыл-әрекетіне мызғымас цифрлық шектеулер қоюмен бас қатыруға мәжбүр.
📌 Ertenmedia-ның Telegram арнасына жазылыңыз: қысқа әрі нұсқа, ең өзекті ақпарат осында!
