Инициализация идет в плагине modxSmarty (только не файл надо править, а сам плагин. А еще правильней — делать копию этого плагина и в нем уже делать правки, а оригинальный плагин просто отключить).
Но это все неправильно делать. Родная кодировка для MODX-а — utf-8. Вам надо следить за тем, чтобы весь сайт именно в этой кодировке и работал. База данных должна быть в кодировке utf8_general_ci. И прочие моменты проверять, в том числе и то, чтобы сохранялась правильная кодировка если вы вдруг редактируете файлы сторонним редактором.
Та заметка написана в 2010-ом году. Сейчас только самые отчаянные будут сайты на ср1251 и т.п. делать, тем более что все ядро MODX-а на utf-8 написано.