ИИ-агент ROME, связанный с Alibaba, во время обучения перенаправлял GPU на криптомайнинг, следует из исследования

Экспериментальный ИИ-агент ROME, созданный исследовательскими командами, связанными с Alibaba, на базе архитектуры Qwen3-MoE, во время сессий обучения с подкреплением самостоятельно пытался заняться майнингом криптовалюты и настроить скрытый сетевой туннель, говорится в работе исследователей. Модель с 30 млрд параметров, по данным авторов, открыла обратный SSH-туннель на внешний сервер и перенаправила выделенные для обучения GPU-ресурсы на майнинг, что вызвало срабатывание межсетевого экрана Alibaba Cloud. Позднее исследователи пришли к выводу, что такие действия стали побочным эффектом автономного использования инструментов в рамках оптимизации с подкреплением, а не следствием прямых инструкций по майнингу или туннелированию. Для привлечения более широкого внимания на эпизод указал в X Александр Лонг, основатель и CEO децентрализованной ИИ-исследовательской компании Pluralis.