Só pra esclarecer: "reação de guarda" seria a Reação de Vingança? Ou seja, o contra-ataque do monstro que é atacado (mas não é morto por overkill), correto?
Se a resposta acima for positiva, então no seu exemplo, não importa quantos monstros estiverem no mesmo espaço, ou perto dele, apenas um dos alvos do seu ataque será ativado. Porém, quem decide isso é o jogador à sua direita, que é o responsável por controlar os monstros na sua vez.
Portanto, caso seu ataque atinja mais de um alvo ao mesmo tempo, o jogador à sua direita decide qual deles ativar (obviamente dentre aqueles que sobreviveram ou não foram mortos por overkill) e efetua a Reação de Vingança dele.
Caso seu ataque seja de alvo único, e o alvo escolhido esteja perto de outro monstro (isso inclui o mesmo espaço ou um dos 4 espaços perto), então somente o monstro atacado terá sua Reação de Vingança ativada.
Agora se você chama "reação de guarda" a Reação de Alerta dos monstros, aí já são outros quinhentos...