Eсли вершина пирамиды S, то назовем апофему SF.
Апофема правильной четырехугольной пирамиды рассчитывается по формуле:
SF = √(h²+r²),  где SF=5 - апофема; h=3 - высота пирамиды; r - радиус вписанной окружности. 
Подставляем 
5 = √(3²+r²)
25 = 9 + r²
16 = r²
r = √16 = 4
Радиус вписанной окружности 4, а сторона основания правильной четырехугольной пирамиды равна диаметру вписанной окружности, т.е 4 * 2 = 8