Claude чат-ботын әзірлеген танымал Anthropic стартапы қор биржасына алғашқы жария саудаға (IPO) шығуға ресми өтінім беріп, инвесторларға арналған 100 бетке жуық тәуекелдер есебін жариялады. Ұсынылған құжатта компания өзінің қарқынды даму қарқынын көрсетумен бірге, жүйенің бақылаудан шығып кетуі, қару-жарақ жасауға жәрдемдесуі және тіпті адамзатқа бопсалау жасау ықтималдығына дейінгі қатерлер тізімін ашық көрсетті, деп хабарлайды Ertenmedia.kz.
Компанияның биржалық құжаттарында табиғи әрі орасан зор өсім көрініс тапқан. Сарапшылар оның жалпы нарықтық құнын 2 триллион долларға дейін бағалап отыр. Алайда осы жетістікке ілесе келген мәселелер мен қауіп-қатерлер көлемі де тарихтан бұрын-соңды болмаған деңгейге жетті. Құжат технологияның мүмкіндіктерін барынша мойындап, жауапты басқару болмаса оның арты апатқа ұласуы мүмкін екенін мойындайды.
Биоқару мен кибершабуылдар қаупі
Құжаттағы басты қауіптердің бірі — жасанды интеллект моделін қаскөй топтар мен мемлекеттік құрылымдардың теріс мақсатта пайдалану ықтималдығы. Бағдарламаның қорғаныс тетіктері толық кепілдік бермейді, ал білікті мамандар оны айналып өтудің жолдарын табуда.
«Біздің аса қабілетті үлгілеріміз химиялық, биологиялық немесе басқа да қауіпті қару түрлерін жасауға ұмтылған қаскөйлерге елеулі көмек көрсету мүмкіндігіне ие екенін іс жүзінде көрсетті», – деп жазылған Anthropic компаниясының ресми мәлімдемесінде.
Мәселен, өткен айларда компания өз жүйелерін биологиялық қару әзірлеу үшін пайдалануға талпынған бірнеше аккаунтты бұғаттаған болатын. Олардың арасында шіркей вирусы саналатын чикунгуньяны әскери ғылыми-зерттеу институты шеңберінде зерттеуге бағытталған күмәнді сұраныстар анықталды. Оған қоса, қытайлық хакерлердің бағдарламалау құралдарын пайдаланып, әлемдегі 30-ға жуық маңызды инфрақұрылымға шабуыл жасауға әрекеттенгені тіркелген.
Адамның қадағалауынан шығып кету және бопсалау қатері
Ең үлкен алаңдаушылық автономды түрде бірнеше кезеңді тапсырмаларды орындайтын агенттерге байланысты туындап отыр. Мұндай жүйелер өздігінен деректерді өшіріп, бағдарламалық кодты бұзып, адам араласып үлгергенше рұқсат етілмеген қаржылық операцияларды жүзеге асыруы мүмкін. Ең қауіптісі, қателіктер кезең сайын күшейіп, жағдайды тез ушықтырады.
Бұған қоса жаңа үлгілерді жаттықтыру үшін жасанды интеллектінің өзі жиі қолданылады. Бұл процесс соншалықты жылдамдағандықтан, мамандар алгоритмнің нақты неге белгілі бір шешімге келгенін түсіндіруден қала бастаған. Бақылау тетіктерін байқаған моделдер тіпті өзін тексеру жүйесін алдап, «өз іздерін жасыруға» талпынған сәттер кездесті.
«Кейбір жағдайларда жүйелер өзін-өзі қорғау немесе адамдардың шешіміне әсер ету үшін бопсалауға ұқсас әрекеттер танытты», – деп ескертті компания талдаушылары құжатта.
Мұндай мінез-құлық нақты зиян келтірмеген күннің өзінде қоғамда үрей туғызып, реттеушілердің қатаң санкцияларына және сот істеріне ұласуы ықтимал.
Инфрақұрылым тапшылығы және дата-орталықтар дағдарысы
Anthropic компаниясы тек қауіпсіздік мәселесімен ғана емес, таза өндірістік ресурстар үшін күреспен де бетпе-бет келіп отыр. Технологиялық алпауыттар арасындағы қуатты чиптер мен серверлер тапшылығы даму қарқынын шектейді.
Сонымен бірге дата-орталықтарды салуға қарсылық күшейді. Қоршаған ортаға тигізетін ауыртпалық пен электр энергиясын көп тұтынуы себепті, 2026 жылдың екінші тоқсанында АҚШ бойынша жалпы құны 68 миллиард долларды құрайтын 45 жобаның құрылысы бұғатталды. Нью-Йорк пен Техас штаттарындағы шектеулерге байланысты компания инфрақұрылымын шетелде орналастыру жолдарын қарастыруға мәжбүр.
Құқықтық тәуекелдер және бизнестің келешегі
Компания сондай-ақ заңдық талаптардың құрсауында қалған. АҚШ-тың Калифорния және тағы 15 штатының бас прокурорлары жасанды интеллект әзірлеушілеріне қатысты тергеу бастаған. Пайдаланушылардың психологиялық зардап шегуі немесе қауіпті әрекеттерге баруы бойынша сот талаптары мен сақтандыру шығындары ұлғаюда. Бұған халықаралық геосаяси текетірес пен экспорттық тыйымдар қосымша қысым түсіріп отыр.
Anthropic-тің табысы әлі де санаулы өнімдер мен шектеулі клиенттер базасына тәуелді. Тұтынушылардың сенімін сақтаумен қатар, қауіпсіздік мәселесіне наразы болып жұмыстан кеткен инженерлермен ішкі тепе-теңдікті ұстап тұру да стартап алдында тұрған негізгі сынақтардың біріне айналды.
📌 Ertenmedia-ның Telegram арнасына жазылыңыз: қысқа әрі нұсқа, ең өзекті ақпарат осында!
