Also von einem technischen Standpunkt her würde ich sagen, ist der Unterschied, dass Software parallel auf (größenordungsmäßig) 10 komplexen Prozessoren läuft und HDL auf FPGAs parallel auf 100.000 sehr einfachen Einheiten.
Da hängt es ganz vom Einsatzzweck ab, was besser ist. CPUs lassen sich besser in Software abbilden, Graphikeinheiten besser in HDL.