Чем отличается r от R (в геометрии)?

R - радиус описанной окружности r - радиус вписанной окружности

Двумя этими буквами в геометрии обычно обозначается радиус окружности. 

маленькая r - радиус вписанной в фигуру окружности (окружность внутри фигуры);

большая R - радиус описанной около фигуры окружности (фигура внутри окружности).

Если указываются вместе, то обычно в задаче есть оба случая.

Это формула используется когда в описанном окружности есть фигура, в которой есть вписанная окружность. То есть в большой окружности используется R, в маленькой r