Площадь треугольника ABH равна половине площади равностороннего треугольника с высотой BH (высота делит равносторонний треугольник на два прямоугольных треугольника с углом 60°).
Площадь равностороннего треугольника с высотой h:  h^2/√3
S(ABH)= BH^2/2√3

Прямоугольный треугольник с углом 45° - равнобедренный.
△CBH - равнобедренный, BH=CH
S(CBH)= BH*CH/2 =BH^2/2

S(ABC)= S(ABH)+S(CBH) =BH^2(√3+3)/6 =0,7886*BH^2 =19,72 (см)

Вариант решения. 

Одна из формул площади треугольника 

S=a•b•sin α:2, – равна половине произведения сторон на синус угла, заключённого между ними. 

В ∆ АВС сторона ВС=ВН:sin45°=5√2 

Угол АВС=180*-45°-60°=75°

По т. синусов. ВС:sina=AC:sinB 

синус 75°≈0,966

5√2:(√3/2)=AC:0,966⇒

AC=10√2•0,966:√3

AC=10•1,4142•0,966:1,732= ≈7,8875

S=BC•AC•sin45°:2

S(∆АВС)=0,5•5√2•7,8875•√2/2=19,66875 ~19,718 см²