La divisione per zero NON porta ad un valore infinito.
Casomai, dividere una quantità finita per qualcosa che TENDE a zero fa TENDERE il risultato all'infinito, ma è un concetto ben diverso.
Il problema della divisione per zero è insito nel fatto che la divisione è intimamente legata alla moltiplicazione, nel senso che A/B=C se e solo se A=BC.
Poiché però ogni numero moltiplicato per zero fa zero (vedi nota in fondo), ciò comporta che (ponendo B=0) l'uguaglianza sopra ammette solo due possibilità:
1) se A non è zero, non esiste alcun numero C che la soddisfa
2) se A=0, ogni numero C la soddisfa.
Come vedi, in entrambi i casi, non è possibile assegnare un valore univoco a C (o perché non ce n'è alcuno, o perché sono infiniti).
NOTA
:o) la cosa si può dimostrare in modo ancora più rigoroso, col linguaggio della teoria degli anelli, in ambiti decisamente più astratti. In particolare, si può dimostrare che se si vuole un insieme dotato di 2 operazioni interne (chiamiamole somma e prodotto) per le quali valgano alcune proprietà ragionevoli (tra cui, ad esempio, l'associatività e la distributività di una sull'altra... addirittura anche senza imporre la commutatività della moltiplicazione!), allora DEVE essere così, A MENO CHE non si voglia che l'insieme contenga un solo elemento (che è un caso decisamente poco interessante: sarebbe un insieme solo con lo zero, in cui 0+0=0 e 0*0=0 sono le uniche operazioni ammesse)!!!! Tuttavia penso che la tua domanda riguardasse soltanto i numeri reali.