Olá andreluiz,
Veja, primeiro, a animação usando o geogebra que fiz desta questão:
http://www.tutorbrasil.com.br/geogebra/ ... brada.html
Vamos à questão, não vou me alongar muito nas explicações, pois sendo esta questão de altíssimo nível, para tentar fazê-la deve-se já ter uma boa base de demonstrações. Se houver alguma dúvida em minha explicação, por favor, perguntem neste tópico:

- Screen Shot 2012-02-06 at 18.56.32.png (29.74 KiB) Exibido 1434 vezes
O quadrado tem lado
[tex3]L[/tex3], o círculo tem raio
[tex3]R[/tex3].
Os triângulos FBE e ECI são semelhantes:
[tex3]\frac{d}{a}=\frac{L-a}{b}=\frac{L-d}{c}[/tex3]
Somando os três denominadores e os três numeradores entre si (propriedade de proporções), temos:
[tex3]\frac{2L-a}{a+b+c}=\frac{L-a}{b}\,\,\rightarrow \,\,\boxed{L=\frac{(a+c)a}{a-b+c}}[/tex3]
Sendo
[tex3]\widehat{EIC}=\widehat{GIH}[/tex3], pois são opostos pelo vértice. Temos, então, que os triângulos
[tex3]GHI[/tex3] e
[tex3]ECI[/tex3] são semelhantes:
[tex3]\frac{k}{c}=\frac{L-b-k}{a}=\frac{x}{b}[/tex3]
Novamente, somando de acordo com a propriedade de proporções:
[tex3]\frac{L-b+x}{a+b+c}=\frac{x}{b}[/tex3]
Substituindo o valor de
[tex3]L[/tex3] encontrado anteriormente e isolando
[tex3]x[/tex3], temos:
[tex3]x=\frac{a^2+bc-c^2}{a-b+c}\text{ (I)}[/tex3]
Por pitágoras, temos que
[tex3]a^2+b^2=c^2\,\,\rightarrow \,\,-b^2=a^2-c^2\text{ (II)}[/tex3]
(II) em (I):
[tex3]\boxed{x=\frac{bc-b^2}{a-b+c}}\text{ (III)}[/tex3]
Agora vamos pegar um atalho. Sabemos que o raio do círculo inscrito em um triângulo retângulo de catetos
[tex3]a[/tex3] e
[tex3]b[/tex3] e hipotenusa
[tex3]c[/tex3] é dado pela fórmula:
[tex3]R=\frac{a+b-c}{2}\text{ (IV)}[/tex3]
Vamos então igualar
[tex3](III)[/tex3] e
[tex3](IV)[/tex3] e verificar se são iguais:
[tex3]\frac{bc-b^2}{a-b+c}\,\,\,=^{?}\,\,\,\frac{a+b-c}{2}[/tex3]
[tex3]2bc-2b^2 \,\,\,=^{?}\,\,\,a^2-ab+ac+ab-b^2+bc-ac+bc-c^2[/tex3]
Substituindo
[tex3]a^2-c^2=-b^2[/tex3], conseguimos cortar todo mundo e chegar em
[tex3]0=0[/tex3]. Ou seja, realmente,
[tex3]\boxed{x=R}[/tex3], como queríamos demonstrar.
Grande abraço,
Prof. Caju