Su clave personal pública y privada ssh se almacenan normalmente en:
$HOME/.ssh/id_dsa (private key)
$HOME/.ssh/id_dsa.pub (public key)
O podría ser id_rsa y id_rsa.pub si ha creado las claves RSA en lugar de claves DSA (OpenSSH admite ambas formas).
Así cada usuario tendrá sus propias claves en la misma máquina.