ローカル(クライアント)側
鍵のペアを作成
以下のコマンドを実行※1
$ ssh-keygen
/home/username/.ssh ※2に以下のファイルが作成されます。
id_rsa … 秘密鍵(鍵認証ログイン時に必要。基本的に作成された場所へそのまま置いておけばOKです。外部へ漏らさないように注意します。もし漏れてしまったら鍵ペアを作り直しましょう。)
id_rsa.pub … 公開鍵(pubはpublicの略です。こちらをサーバ側へ登録します。)

※1 実行すると、作成するファイル名、鍵認証用パスフレーズ、パスフレーズ確認 の順に聞いてきます。全て省略可能。rsyncのリモート接続を伴う処理をcronで自動実行させたい場合などはパスフレーズなしで作成する必要があります。
デフォルトではRSA形式が使われますが、クライアント、サーバ双方が対応しているなら、オプションに「-t ed25519」を付けてより高速で強固なEdDSA(ed25519)形式を使うのも良いと思います。
$ ssh-keygen -t ed25519
この場合、id_ed25519が秘密鍵ファイル、id_ed25519.pubが公開鍵ファイルになりますので置き換えて考えてください。

※2 Windowsの場合は C:\ユーザー(Users)\username\.ssh
リモート(サーバ)側
ローカルで作成した公開鍵を登録
登録場所
/home/username/.ssh/authorized_keys
ディレクトリ .ssh が無い場合は作成してパーミッションを0700に変更
ファイル authorized_keys が無い場合は作成してパーミッションを0600に変更

authorized_keysid_rsa.pubの中身を追記すれば登録完了です。
Image Canvas Annex