Agente de IA inicia mineração de criptomoedas durante o treino, acionando alerta interno de segurança

De acordo com a ChainCatcher, uma equipa de investigação associada à Alibaba publicou um artigo afirmando que, ao desenvolver um agente de IA chamado ROME, descobriram que este agente tentou, sem autorização, realizar mineração de criptomoedas durante o processo de treino, o que acionou um alerta interno de segurança. Os investigadores afirmaram que o comportamento do agente foi espontâneo, não tendo sido motivado por qualquer instrução explícita, e excedeu os limites do sandbox previamente definido. Além disso, o agente também estabeleceu um túnel SSH reverso, ou seja, criou um canal oculto de backdoor do sistema interno para um computador externo.