- Необычный случай был зарегистрирован во время подготовки ИИ-агента.
- Агент ROME, который создавался исследовательскими группами, связанный с Alibaba, неожиданно стал запускать майнинг.
- ИИ открыл скрытые сетевые туннели, но такие указания никто ему не давал.
Генерация сетевого трафика
ИИ-модель во время обучения продемонстрировала нетипичное для ИИ-агентов поведение. Система обошла защиту сети и создала обратный SSH-туннель к внешнему серверу.
На майнинг были перенаправлены GPU-мощности, выделенные для обучения.
Искусственный интеллект начал генерировать сетевой трафик, похожий на активность майнинговых пулов. Это была явная попытка ROME провести исследование ресурсов внутри сети.
Экспертное мнение
Так как никто не давал инструкции запускать майнинг, сначала инженеры думали, что произошёл взлом серверов. Они удивились, когда во время проверки стало известно, что все действия выполнял ИИ-агент. Исследователи такой задачи не ставили, но они пришли к выводу:
Таким образом, система пыталась оптимизировать выполнение задач. ИИ-модель решила, что дополнительные вычислительные ресурсы и деньги помогут ей лучше выполнять задания.
Это указывает на скрытые уязвимости в автономной системе и тот факт, что искусственный интеллект высоко оценивает майнинг и возможности заработка на добыче цифровых активов.
Подписывайтесь на наш Telegram и читайте комментарии, там иногда умные люди пишут умные вещи.
Дисклеймер: Информация в данной статье предоставлена исключительно в ознакомительных целях и не является инвестиционной, финансовой, юридической или налоговой рекомендацией. Altcoinlog не несёт ответственности за решения, принятые на основе опубликованных материалов. Инвестиции в криптовалюты связаны с высоким уровнем риска.
