Спасибо ws256
Действительно в настройках постоянных ссылок стояла настрока по ссылке с русскими буквами. Было бы красиво если бы так можно было сделать. Изменил на Настройку по умолчанию (т.е. ссылается на http://site.ru/?cat=1) и всё стало нормально.
Упс, кодировка стоит iso-8859-1, если поменять тут же в браузере на utf-8 ошибка отображается нормально 🙂 Тогда почему страничка-то Not Found 404?
Использовал браузеры safari, ie, firefox, chrome — одно и тоже.
В браузере отображается ссылка с русскими буквами, а ошибку с иероглифами (Not Found 404) выдает уже в окне браузера.