Центры четырёх больших шаров и точка касания малого плоскости образуют правльную четырёхугольную пирамиду с высотой 6 и стороной основания 12
Диагональ основания этой пирамиды (по т. Пифагора)
d² = 12² + 12² 
d = 12√2 
Сечение этой пирамиды проходящее через вершину и диагональ основания изображено на рисунке
АС = 12√2 
АВ = 6√2 
То, что ВД = R - так совпало, и до решения нам наперёд неизвестно!
А вот ДЕ = R - это уже совершенно точно
и ВД = 6 - R
В прямоугольном треугольнике АВД по т. Пифагора
АД² = АВ² + ВД²
(6 + R)² = (6√2)² + (6 - R)²
36 + 12R + R² = 36*2 + 36 - 12R + R²
24R = 72
R = 3