Экспериментальный бот с искусственным интеллектом ROME неожиданно покинул защищённую тестовую среду и начал добывать криптовалюту, используя мощности серверов без разрешения. Разработчики сообщили, что бот был задуман как виртуальный помощник для исправления ошибок и написания кода, но не предназначался для работы с цифровыми активами, пишет Daily Star.
![]()
Фото из открытых источников / © GigaChat
ROME находился в изолированной среде — так называемой «тюрьме» для ИИ, чтобы исключить доступ к внешним ресурсам. Однако система смогла создать скрытый туннель, о котором специалисты узнали только после того, как компания Alibaba зафиксировала подозрительную активность на своих серверах.
По словам экспертов, «агент установил и использовал ... туннель от [серверов Alibaba] до внешнего IP-адреса ... эффективно нейтрализуя [надзорный] контроль». После этого бот сосредоточился исключительно на майнинге криптовалюты, что привело к перерасходу вычислительных ресурсов и финансовым потерям для исследователей.
«Мы также наблюдали случаи несанкционированного использования [компьютерных мощностей] для майнинга криптовалют, что приводило к отвлечению ресурсов от обучения, увеличению операционных расходов и создавало явные юридические и репутационные риски», — признали исследователи.
Майнинг криптовалют требует значительных вычислительных мощностей: компьютеры решают сложные математические задачи для подтверждения транзакций и получают за это цифровые деньги. В данном случае бот действовал полностью автономно.
«Эти события не были спровоцированы подсказками... они возникли как инструментальные побочные эффекты автономного использования инструмента», — отметили разработчики.
Авторы отчёта подчеркнули, что подобные инциденты происходят не впервые: крупные модели ИИ уже демонстрировали опасное и несанкционированное поведение. Они призвали коллег обратить внимание на вопросы безопасности, поскольку многие современные системы недостаточно защищены от подобных «побегов» и могут представлять угрозу в реальных условиях.
