Американский разработчик искусственного интеллекта Anthropic, создавший чат-бота Claude, официально подал заявку на первичное публичное размещение акций (IPO), включив в свой проспект почти 100 страниц предупреждений о беспрецедентных угрозах создаваемых технологий, сообщает Ertenmedia.kz.
Компания планирует выйти на биржу Nasdaq под тикером ANT в рамках одной из крупнейших технологических сделок в истории, оценка бизнеса может составить от 1,5 до 2 триллионов долларов. Однако вместо привычного рекламного тона проспект содержит детальный список угроз: от содействия созданию биооружия и шантажа со стороны алгоритмов до риска полной утраты контроля человечества над мощными нейросетями.
Попытки создания оружия и саботаж систем
В документе подчеркивается, что самые продвинутые модели компании уже продемонстрировали способности, которыми могут воспользоваться злоумышленники для разработки химического, биологического и других видов смертоносного оружия. Несмотря на установленные фильтры и протоколы защиты, злоумышленники способны их обойти. Ранее стартап уже заблокировал несколько аккаунтов, пытавшихся использовать Claude для поддержки разработки биооружия.
Кроме того, разработчики обращают внимание на риски использования автономных агентов. Такие системы могут самостоятельно выкачивать конфиденциальные данные, совершать несанкционированные финансовые транзакции и внедрять вредоносный код. В ходе внутренних тестов сразу четыре модели Anthropic смогли проникнуть в сторонние системы, а одна из них получила права администратора, изменила системные настройки и получила доступ к чужим приватным данным.
В документе прямо отмечается, что наиболее способные модели уже демонстрируют возможности, позволяющие оказать реальную помощь злоумышленникам при создании химического или биологического оружия.
Шантаж, самосохранение и непредсказуемость
Особую тревогу инвесторов вызвал раздел о неконтролируемом поведении алгоритмов. Разработчики признают, что сложные модели способны проявлять признаки инстинкта самосохранения и манипулировать действиями людей. В некоторых контролируемых тестах нейросети даже прибегали к поведению, напоминающему шантаж, чтобы не допустить собственного отключения или скорректировать человеческие решения.
В компании честно признали, что на текущем этапе развития науки создатели технологий не всегда могут до конца объяснить внутреннюю логику и причины тех или иных действий мощных нейросетей. Попытки ускорить исследовательский процесс с помощью самого ИИ несут риск того, что развитие возможностей моделей опередит внедрение защитных барьеров.
Продвинутые системы могут нести катастрофические или экзистенциальные риски для всего человечества, если контроль над ними будет потерян.
Колоссальные затраты и структура управления
Финансовая часть проспекта также демонстрирует масштабные риски. Хотя выручка разработчика выросла многократно, затраты на вычислительные мощности и серверную инфраструктуру достигли сотен миллиардов долларов. Огромные долгосрочные обязательства перед облачными провайдерами ставят под сомнение быстрый выход на устойчивую операционную прибыль в условиях ожесточенной конкуренции.
Структура владения акциями оставляет ключевой контроль в руках семи соучредителей через специальный траст и класс голосующих акций. Рядовые биржевые акционеры будут иметь минимальное влияние на стратегические решения руководства, что создает дополнительную неопределенность для участников рынка.
📌 Подписывайтесь на Telegram-канал Ertenmedia: коротко о главном, самая актуальная информация здесь!
