Solución. Sean $a$ la hipotenusa y $b$ y $c$ los catetos. Vamos a plantear un sistema de tres ecuaciones para obtener sus valores. Por un lado, tenemos la condición sobre el perímetro $a+b+c=96$ y la condición sobre la altura podemos escribirla calculando el área de dos formas distintas como base por altura entre $2$, esto es, se tiene que $\frac{1}{2}bc=\frac{1}{2}bh$. Finalemente, la tercera ecuación nos la da el teorema de Pitágoras $a^2=b^2+c^2$. Tenemos, pues, el siguiente sistema:
\[\left\{\begin{array}{l}a+b+c=96\\bc=\frac{96}{5}a\\a^2=b^2+c^2\end{array}\right.\]
Sumando dos veces la segunda ecuación a la tercera para completar el cuadrado y despejando $b+c$ de la primera, obtenemos una ecuación que sólo involucra a $a$:
\[a^2+\frac{192}{5}a=b^2+c^2+2bc=(b+c)^2=(96-a)^2.\]
Esta ecuación es de primer grado y nos da fácilmente $a=40$. Ahora las dos primeras ecuaciones del sistema nos dicen que $b+c=56$ y $bc=\frac{96}{5}\cdot 40=768$. Teniendo la suma y el producto, sabemos que $b$ y $c$ son las soluciones de la ecuación $x^2-56x+768=0$. Esta se resuelve con la fórmula de la ecuación de segundo grado y nos da las soluciones $x=24$ y $x=32$. Deducimos que los lados del triángulo rectángulo tienen longitudes 24, 32 y 56.