Olá colegas, eu comprei uma GTX 1080 e não tive problemas em nenhum jogo, só no Automobilista ficou dando pequenos "freezes" enquanto jogo, estou usando o Vsync ligado, principalmente nas câmeras externas, quando eu tinha uma GTX 970 não acontecia nada e estou usando as mesmas configurações.
Você está em fullscren com o vsync? Qual versão você está usando do AMS? Tentou fazer o teste em uma versão anterior, mudando no Steam?