Kaiope,
Para determinar uma reta, precisamos de apenas dois pontos. Logo, o número de retas que contém dois desses pontos será dado por
[tex3]\binom{n}{2}[/tex3]
Agora, para achar o número de máximo de pontos de interseção dessas retas, vamos fazer uma substituição.
Seja o número de retas dado por
[tex3]m=\binom{n}{2}=\frac{n(n-1)(n-2)!}{(n-2)!\cdot2!}=\frac{n(n-1)}{2}[/tex3]
Agora, vamos achar uma recorrência no número dessas retas.
Se temos 1 reta, o número máximo de pontos de interseção é 0. Se temos 2 retas, o número máximo de interseção é 1. Se temos 3 retas, o número máximo de pontos de interseção é 3, e se tivermos 4 retas, será 6. Veja o padrão:
[tex3]f(1)=0,f(2)=1,f(3)=3,f(4)=6[/tex3]
Note que
[tex3]6-3=3,3-1=2,1-0=1[/tex3] e
[tex3]3-2=1[/tex3]. Caso, não tenha conseguido visualizar, recomendo fazer para mais retas, de todo modo, formar-se-á uma progressão aritmética de ordem 2 em m, logo, o número máximo de pontos de interseção será uma função do segundo grau em
[tex3]m[/tex3].
Usando esse fato, é possível determinar o
[tex3]f(m),[/tex3] que será
[tex3]f(m)=\frac{m^2-m}{2}[/tex3]
Mas, nós queremos
[tex3]f(n),[/tex3] portanto, basta substituir que
[tex3]m=\frac{n^2-n}{2}[/tex3]
Fazendo a substituição, encontramos que
[tex3]f(n)=\frac{n^4 - 6n^3 + 11n^2 +2n}{8}[/tex3]
Espero que tenha entendido!

Dias de luta, dias de glória.