Con respecto al software existen versiones gratuitas del famoso Shoutcast que te sirven, sino existen otros como Icecast que creo que son totalmente gratuitos y permiten transmitir el audio que tu pc este reproduciendo.
Lo mas jodido con una radio es la velocidad del server, ya que necesitas poner una buena coneccion si queres tener mas de 20 oyentes escuchando la radio al mismo tiempo. Por ejemplo, usualmente para tener unos 50 oyentes tenes que garpar mas o menos 100 pesos por mes. Deberias preguntar bien en servicios de hosting, cuanto te cobran por tener un VPS (
http://en.wikipedia.org/wiki/Virtual_private_server) o si ellos mismos ofrecen servicios de transmision de audio.