BA=BC ; AC _основание ; BO =5 см ;OD =3 см ; BD ⊥ AC .
----------------------------------
AC =a - ?
BA=BC =b ;
BD =BO +OD = 5 см + 3 см = 8 см.
 Центром вписанной в треугольник окружности является точка, в оторой пересекаются все биссектрисы треугольника.
AB/AD =BO/OD (свойство биссектрисы угла треугольника) ;
b/(a/2)/ =5/3 ⇒ b =5a/6 ;
Из  ΔABD :
b² -(a/2)² =h² ;
(5a/6)² -(a/2)² =8² ⇒ а =12 (см) .

Пусть окружность вписана в треугольник АВС. 
ВН- высота, биссектриса и медиана треугольника АВС.
ВО=5 см
ВН=ВО+ОН=5_3=8 см
К - точка касания окружности и боковой стороны. 
ОК=ОН=3 см
АН=НС=х
В прямоугольном треугольнике ВКО ВК=4 ( треугольник - египетский, можно проверить по т. Пифагора). 
Треугольники ВНС и ВКО - подобны( прямоугольные с общим острым углом при В).
ВН:ВК=НС:ОК
8:4=х:3
24=4х
х=6
АС=2*6=12 см