Инженеры объяснили, почему ИИ начал самостоятельно добывать криптовалюту во время обучения

Генерация сетевого трафика

ИИ-модель во время обучения продемонстрировала нетипичное для ИИ-агентов поведение. Система обошла защиту сети и создала обратный SSH-туннель к внешнему серверу.

На майнинг были перенаправлены GPU-мощности, выделенные для обучения.

Искусственный интеллект начал генерировать сетевой трафик, похожий на активность майнинговых пулов. Это была явная попытка ROME провести исследование ресурсов внутри сети.

Экспертное мнение

Так как никто не давал инструкции запускать майнинг, сначала инженеры думали, что произошёл взлом серверов. Они удивились, когда во время проверки стало известно, что все действия выполнял ИИ-агент. Исследователи такой задачи не ставили, но они пришли к выводу:

Таким образом, система пыталась оптимизировать выполнение задач. ИИ-модель решила, что дополнительные вычислительные ресурсы и деньги помогут ей лучше выполнять задания.

Это указывает на скрытые уязвимости в автономной системе и тот факт, что искусственный интеллект высоко оценивает майнинг и возможности заработка на добыче цифровых активов.