Personnellement, je ne connais pas de logiciel, mais, sur un autre fil, j'avais dû évoquer les jeux de rôles ayant des règles pour déterminer aléatoirement un littoral.
Le Manuel des Personnages et des Campagnes de Rolemaster ancienne édition (que l'on doit sûrement trouver sur Scribd en cherchant un peu) contient de telles règles incluant le littoral, les fleuves, les montagnes, la végétation et les cultures pour un univers de type médiéval.