Yo lo plantearía así:
[tex]x - y =12[/tex]
[tex]\frac{x}{y} = \frac{8}{5}[/tex]
Despejamos "x":
[tex]x = \frac{8y}{5}[/tex]
Sustituimos en la primera ecuación y obtenemos:
[tex]\frac{8y}{5} - y =12[/tex]
Quitamos denominador, multiplicando por cinco: [tex]8y - 5y = 60[/tex]
Y sólo nos queda terminar de operar: [tex]3y = 60\ \to\ y = \bf 20[/tex]
Volviendo a la primera ecuación se obtiene que x = 32.
