Un équivalent gratuit de Maple serait MuPad (malheureusement pas libre). Tu as une présentation de ce logiciel
ici. Il est capable de faire du calcul formel assez poussé. Ca fait plus de 5 ans que j'y ait plus touché et il est possible que l'interface assez moche se soit améliorée de puis (à l'époque les formules étaient dessinées en art ASCII). J'espère que son régime de licence n'a pas changé.
Quand à Matlab, Scilab peut le remplacer sans trop de difficulté. J'ai cru comprendre que c'était pour faire de l'automatique. Ma référence dans ce domaine à l'époque où j'en faisais est le fichier pdf disponible
ici. Celui-ci contient des cours et tutoriels, ainsi que des instructions pour installer et utiliser scilab. De plus, il existe une interface graphique liée à Scilab qui permet de simuler facilement des systèmes asservis (entre autres). Celui-ci s'appelle
scicos.
J'ai utilisé ces outils sous Windaube et Linux... En espérant qu'ils peuvent te convenir...