Olá a todos,
Analisando um pouco meus alfarrábios, vi que a definição de polígono regular realmente só leva em consideração os lados iguais e os ângulos internos iguais, não leva em consideração se há ou não alguma concavidade.
Sendo assim, como já disse nosso amigo marco_sx, devemos levar em consideração os polígonos estrelados.
Para resolver vamos iniciar pensando em um polígono de 6 lados. Ou seja, a mesma questão referenciando um hexágono.
Pegue um lápis e um papel e desenhe uma circunferência com 8 pontos sobre ela e eqüidistantes um do outro.

- Screen Shot 2011-12-01 at 20.34.47.png (14.5 KiB) Exibido 8081 vezes
Partindo do ponto
[tex3]A[/tex3] se percorrermos com o lápis, fazendo linhas retas, e visitando cada ponto vizinho, formamos o octógono
[tex3]ABCDEFGH[/tex3] regular comumente conhecido.
Agora, se partirmos do ponto
[tex3]A[/tex3], e vamos sempre pulando para o terceiro no sentido horário, obtemos o polígono regular
[tex3]ADGBEHCF[/tex3].

- Screen Shot 2011-12-01 at 20.36.50.png (30.67 KiB) Exibido 8081 vezes
Partindo de
[tex3]A[/tex3] e pulando para o quarto no sentido horário, não obteremos um polígono de
[tex3]8[/tex3] lados (tente no papel).
Partindo de
[tex3]A[/tex3] e pulando para o quinto, obteremos o mesmo polígono acima.
Partindo de
[tex3]A[/tex3] e pulando para o sexto, não obteremos um polígono de
[tex3]8[/tex3] lados.
Partindo de
[tex3]A[/tex3] e pulando para o sétimo, obteremos o mesmo polígono
[tex3]ABCDEFGH[/tex3].
Ou seja, só conseguimos obter um polígono regular quando pulamos para um número que seja primo com
[tex3]8[/tex3] (quando pulamos para o
[tex3]1[/tex3],
[tex3]3[/tex3],
[tex3]5[/tex3] e
[tex3]7[/tex3]). Ainda assim obtemos polígonos repetidos duas vezes. Portanto, a quantidade de polígonos regulares de
[tex3]n[/tex3] lados é igual à metade da quantidade de números positivos primos com
[tex3]n[/tex3].
Para calcular a quantidade de números primos com
[tex3]n[/tex3] utilizamos a função Totiente de Euler
[tex3]\phi(n)[/tex3].
O valor
[tex3]\phi(n)[/tex3] nos dá a quantidade de números primos com
[tex3]n[/tex3] que são menores que
[tex3]n[/tex3].
Essa função tem as seguintes propriedades:
1)
[tex3]\phi(p) = p-1[/tex3] se
[tex3]p[/tex3] é primo;
2)
[tex3]\phi(p^k)=p^{k-1}(p-1)[/tex3] se
[tex3]p[/tex3] é primo;
3)
[tex3]\phi(a\cdot b) = \phi(a)\cdot\phi(b)[/tex3],
[tex3]a[/tex3] e
[tex3]b[/tex3] primos entre sí e
[tex3]\ge 1[/tex3].
Então vamos calcular o valor de
[tex3]\phi(100)[/tex3].
[tex3]\phi(100)=\phi(4\cdot 25)[/tex3]
Como
[tex3]4[/tex3] e
[tex3]25[/tex3] são primos entre sí, podemos aplicar a regra 3:
[tex3]\phi(100)=\phi(4\cdot 25)=\phi(2^2)\cdot\phi(5^2)[/tex3]
Agora podemos aplicar a regra 2.
[tex3]\phi(100)=\phi(4\cdot 25)=\phi(2^2)\cdot\phi(5^2)=2^{2-1}\cdot{(2-1)}\cdot 5^{2-1}\cdot (5-1)=40[/tex3]
Assim, temos que a quantidade de polígonos regulares com
[tex3]100[/tex3] lados é
[tex3]\frac{40}{2}=20[/tex3]