Самый простой вариант кодирования - задавать номера клетки по горизонтали и по вертикали. Если горизонталей ("строк") 8, то их можно занумеровать от 0 до 7 и для задания номера горизонтали будет достаточно 3 бита (комбинации 000 - 111). Вертикалей 4, пронумеруем их от 0 до 3 и закодируем битами от 00 до 11 - такой код займет 2 бита. Итого потребуется 3+2=5 бит.

Можно и проще было посчитать. 8х4=32, 32 это 2^5, поэтому потребуется 5 бит для нумерации клеток от 0 до 31.