Если папка ~/.ssh отсутствует, то её нужно предварительно создать:
mkdir ${HOME}/.ssh
chmod 700 ~/.ssh
При ручном копировании SSH-ключей в папку ~/.ssh часто бывает нужно установить скопированным файлам правильные права, которые должны быть у ключей.
chmod 600 ~/.ssh/id_rsa;
chmod 644 ~/.ssh/id_rsa.pub
Чтобы установить владельцем всех ключей текущего пользователя нужно выполнить команду:
chown $USER:$USER ~/.ssh -R
Полезные ссылки по теме:
- .ssh directory not being created
- SSH Key Permissions Chmod settings?
- Trying to do ssh authentication with key files: server refused our key