Elevando Os dois lados ao Quadrado temos:
[tex3]a^2(a^2+2b^2)=b^2(9a^2-b^2)[/tex3]
Resolvendo as Multiplicações temos agora :
[tex3]a^4+2a^2b^2=9a^2b^2-b^4[/tex3] , Agora, Forçando a ser um quadrado Perfeito temos:
[tex3]a^4-2a^2b^2+b^4-5a^2b^2=0[/tex3] , desmembrando temos :
[tex3](a^2-b^2)^2 -5a^2b^2=0[/tex3] ...
Fazendo diferença de Quadrados temos :
[tex3]\(a^2-\sqrt{5}ab-b^2\)\(a^2+\sqrt{5}ab-b^2\)[/tex3] , Fazendo o delta das Duas equações:
Da Primeira temos :
[tex3]a^2-\sqrt{5}ab+b^2[/tex3] , daí temos por Bhaskara :
[tex3]\Delta = 5b~^2+4b^2 \\ \Delta =9b^2[/tex3]
Daí :
[tex3]a_1=\frac{\sqrt{5}b+3b}{2}[/tex3] ou
[tex3]a_2=\frac{\sqrt{5}b-3b}{2}[/tex3]
De novo Temos :
[tex3]\boxed{ \frac{a}{b}=\frac{3+\sqrt{5}}{2}}[/tex3] ou
[tex3]\boxed{\frac{a}{b}=\frac{-3+\sqrt{5}}{2}}[/tex3]...
Da Segunda Equação temos :
[tex3]a^2+\sqrt{5}ab-b^2[/tex3] , De novo teremos :
[tex3]\Delta =9b^2[/tex3]
As Raízes dessa segunda equação são:
[tex3]a_3=\frac{-\sqrt{5}b+3b}{2}[/tex3] ou
[tex3]a_4=\frac{-\sqrt{5}b-3b}{2}[/tex3]
Daí temos:
[tex3]\boxed{\frac{a}{b}=\frac{-\sqrt{5}-3}{2}}[/tex3] ou
[tex3]\boxed{\frac{a}{b}=\frac{3-\sqrt{5}}{2}}[/tex3] ....
Como A questão só admite Valores Positivos.. o Único valor que segue essas condições achado é:
[tex3]\boxed{\frac{a}{b}=\frac{3+\sqrt{5}}{2}}[/tex3] ,
LETRA E ...
É, Difícil Questão , Porém boa

Espero ter ajudado , até a Próxima!