Salut qu'entend tu par coder?
Si un programme doit invoquer cette commande, rien de plus facile, tu met : "system("traceroute");" dans ton code C.
Si tu doit la recoder, la c'est une autre pair de manche, il faut faire apel à la programmation réseau. Là tu trouvera plein d'exemple en cherchant socket+unix sur un moteur de recherche.
Ensuite, traceroute utilise un protocole assez particulier il me semble, je croi que c'est snmp, ou arp (mais la c'est à vérifier)