Solución. La desigualdad se puede escribir de forma equivalente como
\[\left(\frac{1}{a}\right)^{a^2+2ac}\left(\frac{1}{b}\right)^{b^2+2ab}\left(\frac{1}{c}\right)^{c^2+2bc}\leq 3.\]
La desigualdad entre las medias aritmética y geométrica con pesos nos dice que si $x_1,x_2,x_3,w_1,w_2,w_3\geq 0$ son tales que $w_1+w_2+w_3=1$, entonces $x_1^{w_1}x_2^{w_2}x_3^{w_3}\leq w_1x_1+w_2x_2+w_3x_3$. En nuestro caso, tomaremos $x_1=\frac{1}{a}$, $x_2=\frac{1}{b}$, $x_3=\frac{1}{c}$, $w_1=a^2+2ca$, $w_2=b^2+2ab$ y $w_3^2=c^2+2bc$, que claramente verifican $w_1+w_2+w_3=(a+b+c)^2=1$. Tenemos entonces que
\begin{align*}
\left(\frac{1}{a}\right)^{a^2+2ac}\left(\frac{1}{b}\right)^{b^2+2ab}\left(\frac{1}{c}\right)^{c^2+2bc}&\leq \frac{a^2+2ca}{a}+\frac{b^2+2ab}{b}+\frac{c^2+2bc}{c}\\
&=3(a+b+c)=3.
\end{align*}
Nota. La desigualdad entre las medias aritmética y geométrica con pesos se puede ver también como la desigualdad de Jensen para la función cóncava $f(t)=\ln(t)$. La pista la da el hecho de que los exponentes sumen $1$ pero puede ser difícil darse cuenta de que hay que invertir primero para que los signos de la desigualdad vayan en el sentido correcto.
Como los pesos son todos positivos, la igualdad se alcanza sólo cuando $x_1=x_2=x_3$, es decir, cuando $a=b=c$.