Ответ:

ΔАВС, точки касания окружности и стороны АВ - К, стороны ВС - Л, стороны АС - М.

Нам известна только одна его сторона - гипотенуза ВС. 
ВС=ВЛ+ЛС=8+12=20 см. 
По теореме о касательных к окружности из одной точки: отрезки касательных от этой точки до точки касания равны. Поэтому: 
ЛС=СМ=12 см
ВЛ=ВК=8 см
Обозначим длину АК=АМ=х. 
Получается:
катет АВ=АК+ВК=х+8
катет АС=АМ+СМ=х+12
По теореме Пифагора:
(х+12)²+(х+8)²=20² 
х²+24х+144+х²+16х+64=400
2х²+40х-192=0
х²+20х-96=0
D=400+384=784=28²
х=(-20+28)/2=4см

катет АВ=4+8=12 см
катет АС=4+12=16 см

Площадь треугольника можно найти по формуле Герона: S=sqrt(p(p-a)(p-b)(p-c)), где a,b,c - стороны, p=(a+b+c)/2 - полупериметр.

С другой стороны, если r - радиус вписанного круга, то площадь треугольника S=pr.

Отсюда найдем r, а значит, и площадь круга.

p=(12+16+20)/2=24

S=sqrt(24*12*8*4)=96 

r=S/p=96/24=4

Площадь вписанного круга: S=пr^2=16п