Salut

En math, il faut connaitre les principes de la cryptographie. Mais après tout dépend de ce que veut faire ton logiciel. Cryptage symétrique, asymétrique, ... ?
Ca dépend aussi si tu veux le faire en graphique ou pas. Oui tu peux le faire en C++, renseigne toi bien sur les fonctions déjà existantes pour éviter de reprogrammer une méthode déjà existante. Sinon, tu peux le faire aussi en java si tu connais qui est très riche par son nombre de paquets existants. Il existe d'ailleurs des classes pour le cryptage.
Bonne chance dans la réalisation de ton logiciel ;)