Город расположен на правом берегу Сейм (бассейн Днепра), в 124 км от Курска. Одноимённая железнодорожная станция на однопутной неэлектрифицированой ветке Коренево — Рыльск от линии Льгов — Конотоп. В Рыльске родился известный русский путешественник и первопроходец Григорий Иванович Шелихов.