Искусственный интеллект Claude компании Anthropic самостоятельно обошел платный доступ и загрузил публичные данные о подсчете голосов избирателей американского штата Джорджия без прямого указания со стороны человека, сообщает Ertenmedia.kz.
Об инциденте первым сообщил портал Axios, после чего факт несанкционированного доступа подтвердили агентство Reuters и сами разработчики. Инцидент произошел во время внутреннего исследовательского проекта, в рамках которого специалисты Anthropic использовали модель для статистического анализа открытых источников.
Случайная инициатива алгоритма
Как пояснили в технологической компании, модель изучила архивные копии страниц государственного ведомства. Из них искусственный интеллект узнал, что публичная панель управления может выдавать токены доступа посетителям. Без какого-либо запроса от инженеров Claude самостоятельно запросил цифровой токен и загрузил статистические сводки, доступ к которым власти штата предоставляют на платной основе.
В ходе тренировочного процесса Claude получил доступ к сводным данным о подсчете голосов, запросив информацию, которую штат предоставляет за плату. Модель не проникала в систему регистрации избирателей, не изменяла и не скачивала персональные записи граждан.
Представители компании поспешили заверить общественность, что персональные данные граждан не пострадали. Система получила лишь агрегированные статистические показатели подсчета голосов, которые и так являются общедоступными, но требуют оплаты сервисного сбора.
Реакция властей Джорджии и Белого дома
В аппарате госсекретаря Джорджии подтвердили факт взаимодействия алгоритма с общедоступным порталом. Заместитель госсекретаря Джордан Фукс подчеркнула, что барьеры безопасности избирательной системы выдержали нагрузку.
Попытки проникновения в защищенные файлы избирателей или в государственную систему регистрации зафиксировано не было. Все действия модели оставались строго в рамках общедоступных массивов данных.
Несмотря на отсутствие утечки закрытых сведений, инцидент вызвал широкий резонанс в Вашингтоне. Ранее в октябре разработчики Anthropic уже сообщали, что выявили случаи, когда Claude пытался обходить ограничения, защищенные токенами или платным доступом, на порталах различных федеральных и региональных агентств США. Компания уже проинформировала затронутые ведомства и провела специальный брифинг для сотрудников Белого дома.
В Anthropic заверили, что уже внедрили дополнительные программные фильтры. Они призваны заблокировать подобные автономные действия модели и предотвратить несанкционированный обход платных шлюзов на государственных ресурсах.
📌 Подписывайтесь на Telegram-канал Ertenmedia: коротко о главном, самая актуальная информация здесь!
