Bist Du dir sicher, dass dein Kabel richtig verdrahtet ist? Das Pinout im CVBS und S-Video Modus ist das Gleiche, wie beim richtigen C64.
Vielleicht ist dein Kabel ein S-Video Kabel.
Und bitte nicht auf RGB stellen, wenn Du kein RGB-Kabel angeschlossen hast!