Фреймрейт и будет плясать — это нормально для симуляторов.
Cup frame cueue — ограничивает число кадров в буфере одним (настоятельно рекомендуется к включению)
По зеркалам — можно выключить оптимизацию (renderer.ini), благодаря которой рендерится только одно зеркало на кадр. Но не стоит — зеркала это вообще крайне ресурсоёмкая штука. Снижение детализации зеркал есть в настройках (но скорее всего и так выключено)
Памяти у тебя гигабайт на борту — выставь чуть меньше.
Настройка в каталисте ничего толком не даст.
Ну и включи ограничение фреймрета по верней границе (120, к примеру) — чем меньше будут перепады FPS, тем меньше будет тиринг.