Da klappt wahrscheinlich das synchronisieren nicht. VGA besteht aus RGB Analog und H-Sync/V-Sync.
Vom C64 kommen aber Y/C und Composite, aus denen dann das Signal "zusammengebastelt" wird. Wenn die "Pegel" abweichen, kann es sein, dass das dann dazu führt, dass der Monitor nichts anzeigt.
Kannst Du mal einen anderen Monitor ausprobieren?