Prueba a ejecutar antes advv.exe, para seleccionar las características de tu monitor antes de pasar a generar los modos de vídeo con advconfig.exe.

Saludos.