Село Рубани знаходиться за 2 км від правого берега річки Ворскла. На відстані 1 км розташоване село Жолоби, за 2 км - село В'язове. Село оточене великим лісовим масивом урочище Черняшине (дуб).
12 червня 2020 року, відповідно до розпорядження Кабінету Міністрів України № 723-р «Про визначення адміністративних центрів та затвердження територій територіальних громад Сумської області», село увійшло до складу Грунської сільської громади[1].