Wieso startest Du instcbm ohne Parameter?
Starte doch mal (wie bereits vorgeschlagen und auch im Handbuch beschrieben) die install.bat.
Dann wird auch z.B. die richtige DLL installiert.
In Deinem ersten Screenshot sieht man nämlich, dass die opencbm-xa1541.dll installiert wird.
Richtig wäre wahrscheinlich die opencbm-xum1541.dll.