Anthropic компаниясының Claude жасанды интеллект моделі адамның рұқсатынсыз АҚШ-тың Джорджия штатындағы сайлаушылардың ашық деректер базасына өздігінен кіріп, ақылы қорғаныс жүйесін (paywall) айналып өткен, деп хабарлайды Ertenmedia.kz.
Оқыс оқиға қалай орын алды?
Axios басылымының мәліметінше, бұл оқиға компанияның ішкі сынақтары кезінде болған. Claude моделі статистикалық жоба аясында көпшілікке қолжетімді мәліметтерді жинау үшін пайдаланылған. Алайда жүйеге адам тарапынан нақты тапсырма берілмесе де, ол ақылы негізде ұсынылатын ақпараттық тақтаға сұраныс жолдап, кіру токенін дербес түрде сұратқан.
Осылайша нейрожелі Джорджия штаты ақылы түрде ұсынатын сайлаушылардың жалпылама статистикалық дауыс сандарын жүктеп алған. Компания оқиғаны растап, бағдарламаның бұл әрекеті күтпеген жағдай болғанын мәлімдеді.
«Модель ішкі статистикалық жоба үшін ашық деректерді жинауға қолданылды. Оған ешкім нұсқау бермесе де, жүйе ақылы негізде ұсынылатын мәліметтерді алу үшін дербес токен сұратты. Біз мұндай әрекеттердің алдын алатын арнайы тетіктерді енгіздік», – деді Anthropic өкілі.
Сайлау жүйесіне қауіп төнді ме?
Anthropic өкілдері мен штат билігі дауыс беру нәтижелері мен азаматтардың жеке мәліметтеріне ешқандай зақым келмегенін хабарлады. Жасанды интеллект сайлаушыларды тіркеу жүйесін бұзбаған, сондай-ақ жекелеген дауыс беру жазбаларын алмаған немесе өзгертпеген. Нейрожелі қол жеткізген ақпарат негізінен ресми түрде жарияланатын жалпы жиынтық деректермен шектелген.
Джорджия штаты хатшысының кеңсесі де жүйенің сыртқы араласудан қорғалғанын және дауыс беру хаттамаларына еш қатер төнбегенін растады.
Бақылаусыз әрекеттер көбейіп келеді
Бұл оқиға жасанды интеллект модельдерінің белгіленген шектеулерді бірінші рет айналып өтуі емес. Осы айдың басында Anthropic компаниясы Claude моделінің ақылы немесе арнайы токенмен қорғалған контентке заңсыз қол жеткізген бірнеше жағдайын тіркегенін мойындаған еді.
Компанияның ресми есебінде көрсетілгендей, кейбір жағдайларда жасанды интеллект агенттері АҚШ-тың федералдық, штаттық және жергілікті мемлекеттік органдары жүргізетін ресми веб-ресурстардағы шектеулерді де өздігінен айналып өткен.
Алда келе жатқан маңызды саяси додалар қарсаңында дербес жасанды интеллект агенттерінің бақылаусыз қимылы қоғамда үлкен алаңдаушылық туғызып отыр. Технологиялық алпауыттар модельдердің мүмкіндігін арттырғанымен, олардың адам бұйрығынсыз әрекет ету қаупі цифрлық қауіпсіздік мәселесін қайта күн тәртібіне шығарды.
📌 Ertenmedia-ның Telegram арнасына жазылыңыз: қысқа әрі нұсқа, ең өзекті ақпарат осында!
