Ошибки кодировщика NVENC в OBS Studio возникают из-за несовместимости драйверов, отключенного аппаратного кодирования или конфликтов с системой. Проблема решается переустановкой драйверов видеокарты, проверкой поддержки NVENC и переконфигурацией настроек OBS Studio.
Причины проблемы
- Устаревшие или повреждённые драйверы NVIDIA (GeForce Experience, CUDA Toolkit)
- Видеокарта не поддерживает NVENC (серии GT, GTS, GTM старше поколения Maxwell)
- NVENC отключен в BIOS материнской платы
- Конфликт между несколькими установками OBS Studio или плагинов кодирования
- Недостаточно свободной видеопамяти (VRAM) на видеокарте
- Windows Update перезаписал драйверы на неофициальные версии
- Запущено несколько приложений, использующих NVENC одновременно (игры, стриминговые сервисы)
- Сбой в библиотеке кодирования OBS на уровне NVAPI
Диагностика проблемы
Шаг 1: Проверка поддержки NVENC видеокартой
- Откройте консоль Windows: нажмите
Win + R, введитеcmdи нажмитеEnter. - Выполните команду:
nvidia-smi - В строке
GPU Nameпроверьте модель видеокарты. NVENC поддерживается видеокартами серии RTX (все модели) и GTX 960 и выше. - Если видеокарта не поддерживает NVENC, используйте кодировщик
x264вместо NVENC.
Шаг 2: Проверка версии драйвера
- Нажмите
Win + Xи выберитеДиспетчер устройств. - Разверните раздел
Видеоадаптеры. - Нажмите правой кнопкой на вашу видеокарту NVIDIA и выберите
Свойства. - Перейдите на вкладку
Драйвери запомните номер версии (должен быть 550.x и выше).
Шаг 3: Проверка VRAM
- В консоли выполните:
nvidia-smi --query-gpu=memory.total --format=csv,noheader - Запомните значение общей памяти видеокарты. Для стриминга в 1080p60 требуется минимум 2 ГБ свободной VRAM.
Пошаговая инструкция по исправлению
Способ 1: Полная переустановка драйверов NVIDIA
- Перейдите на сайт
nvidia.com/Download/driverDetails.aspx. - Выберите серию видеокарты (например,
GeForce RTX 3060), операционную систему (Windows 10/11) и язык. - Загрузите последнюю версию драйвера (не ниже версии 550.x).
- Нажмите
Win + Xи выберитеДиспетчер устройств. - Найдите видеокарту в разделе
Видеоадаптеры, нажмите правой кнопкой и выберитеУдалить устройство. - Поставьте флажок
Удалить программное обеспечение драйвера для этого устройстваи нажмитеУдалить. - Перезагрузитесь:
Win + X→Завершение работы или выход→Перезагрузка. - Запустите загруженный установщик драйвера (.exe файл) и следуйте инструкциям на экране.
- Выберите опцию
Custom (Advanced)и поставьте флажокPerform a clean installation. - Дождитесь завершения установки и перезагрузитесь.
Способ 2: Проверка и включение NVENC в BIOS
- Перезагрузитесь и войдите в BIOS: нажимайте
Del,F2илиF10во время загрузки (зависит от производителя платы). - Найдите раздел
Integrated GraphicsилиPCIe Configuration(расположение зависит от модели платы). - Убедитесь, что параметр
PCI Express Lane ConfigurationилиGPU Memoryустановлен наAutoилиEnabled. - Сохраните изменения: нажмите
F10или найдите кнопкуSave and Exit. - Система перезагрузится автоматически.
Способ 3: Переконфигурация OBS Studio
- Откройте OBS Studio.
- Нажмите
File→Settings(илиCtrl + ,). - Перейдите на вкладку
Output. - В разделе
EncoderвыберитеNVIDIA NVENC H.264 (new)илиNVIDIA NVENC H.265 (new). - Если опция не доступна, нажмите
Browseи убедитесь, что путь к библиотеке NVENC указан корректно (обычноC:\Program Files\NVIDIA\NVIDIA Video Codec SDK). - Установите
Rate ControlнаCBR(постоянный битрейт). - Установите
Bitrate (Mbps)в зависимости от качества: для 1080p60 — 6-8 Мбит/с, для 720p60 — 4-5 Мбит/с. - Нажмите
Apply→OK.
Способ 4: Удаление конфликтующих приложений
- Закройте все приложения, использующие видеоускорение: игры, Zoom, Discord, GeForce NOW, NVIDIA GeForce Experience.
- Откройте Диспетчер задач:
Ctrl + Shift + Esc. - В разделе
Процессынайдите и завершите процессыnvencoder.exe,nvidia-smi.exeили похожие. - Перезагрузите OBS Studio.
Способ 5: Полная переустановка OBS Studio
- Нажмите
Win + X→Приложения и возможности. - Найдите
OBS Studioв списке, нажмите на неё и выберитеУдалить. - Подтвердите удаление.
- Откройте консоль:
Win + R→cmd. - Выполните команду:
rmdir /s "%AppData%\obs-studio"(удалит все настройки OBS). - Перезагрузитесь.
- Загрузите последнюю версию OBS Studio с официального сайта
obsproject.com. - Установите её и заново настройте параметры кодирования.
Способ 6: Проверка и обновление CUDA Toolkit
- Откройте консоль и выполните:
nvidia-smi. - Проверьте версию CUDA (указана в правом верхнем углу вывода).
- Если версия ниже 11.0, перейдите на
developer.nvidia.com/cuda-downloads. - Загрузите и установите последнюю версию CUDA Toolkit для вашей ОС.
- Перезагрузитесь после установки.
Часто задаваемые вопросы
Почему NVENC показывает ошибку "Encoder not available" даже после переустановки драйверов? Это может означать, что на видеокарте одновременно работает несколько приложений, использующих NVENC (игра в фоне, стриминговый сервис). Закройте все остальные приложения и перезагрузите OBS Studio.
Можно ли использовать NVENC на видеокарте GTX 1050? Да, GTX 1050 поддерживает NVENC, но убедитесь, что на видеокарте установлено как минимум 2 ГБ видеопамяти и обновлены драйверы NVIDIA до версии 550.x и выше.
Что делать, если NVENC работает, но качество видео низкое? Увеличьте битрейт в настройках OBS Studio: для 1080p60 установите 8-12 Мбит/с, для 720p60 — 5-7 Мбит/с, и убедитесь, что выбран кодировщик NVIDIA NVENC H.264 (new) вместо старой версии.