Сила взаимодействия двух неподвижных точечных зарядов определяется законом Кулона:
F = k*|q1|*|q2| / (ε*r²), где
F – сила взаимодействия зарядов, Н;
|q1| и |q2| – модули (положительные значения) взаимодействующих зарядов, Кл;
ε – диэлектрическая проницаемость среды;
r – расстояние между зарядами (т. е. в данной задаче – толщина слюды), м;
k = 9*10^9 Н*м²/Кл² – постоянный коэффициент.

Выразим искомую величину r:
r² = k*|q1|*|q2| / (ε*F)
r = √ (k*|q1|*|q2| / (ε*F))
r = √ (9*10^9 * 33*10^(-9) * 33*10^(-9) / (8 * 50^10^(-3)))
Обращу внимание, что я заряды из "нКл" перевёл в "Кл", а силу из "мН" – в "Н". Все величины подставлены в СИ, поэтому я единицы измерения не писал. Ответ получится тоже в СИ, т.е. метры.

r = 0,00495 м = 4,95 мм.
Можно округлить до 5 мм.