Bin Java est plus récent que C++, et a été créé dans le but d'être "pur objet". Le C++ est du C auquel on a rajouté un paradigme objet, mais il est quand même en grande partie compatible avec C (langage procédural). D'où les risques, surtout en tant que débutant, de tout mélanger.
Quand tu codes en Java, tu n'as "que" des classes à coder, puis tu assembles ces classes comme des briques de lego. Mais ces briques sont très souvent déjà existantes (dans Java ou sur le net par exemple), du coup ça peut aller très vite pour programmer.
La programmation OO n'est pas une fin en soi, mais elle a l'avantage d'être bien plus limpide par rapport au problème qu'on veut porter sur un ordi. Par exemple, si tu veux faire un jeu vidéo en orienté objet, tu vas manipuler des objets "VaisseauSpatial", "Alien", etc., et du coup ton code se rapprochera beaucoup de ce qu'était ton modèle de départ. Avec un langage procédural (comme C) c'est plus compliqué (mais on y arrive tout de même !) : ton code est alors basé sur des fonctions, ce qui est plus compliqué à déchiffrer et à rapprocher au problème de base.
Autre avantage de Java sur C++, dans Java on n'a pas de pointeurs, le pointage est entièrement géré par le formalisme objet (appel des objets par référence). Donc plus besoin de se prendre la tête avec des manipulations hasardeuses de pointeurs, dans Java on est sur un plus haut niveau (d'abstraction, pas de performance ou d'intelligence

).
En clair si tu codes en Java tu te retrouveras avec un code très lisible puisque dénué de presque tout ce qui est "dangereux" (manipulation directe de mémoire, ...) ou bas niveau (appel à des fonctionnalités dépendantes du système utilisé). C'est très agréable. Et l'appli finale ne sera guère plus gourmande qu'une appli en C++ (un peu plus lente, et encore !).
J'oubliais une chose importante : Java se compile, comme C++. Mais en C++ on obtient un fichier binaire, exécutable seulement sur le même système qui a servi à la compilation. Avec Java, la compilation fournit un fichier de code intermédiaire, qui va marcher sur n'importe quelle machine possédant une VM Java (Windows, Linux, MacOS, ...). C'est tout de même largement plus portable. Sans compter qu'une classe Java peut très rapidement se retrouver au sein d'une applet, dans une page web (de moins en moins utilisé toutefois).
Maintenant il y a beaucoup de langages récents, quasiment tous interprétés, très pratiques pour faire rapidement des applications (Python and co.). Mais pour commencer je conseille plutôt de bien étudier ce qu'est le concept objet, et de l'expérimenter sur Java, quitte à utiliser d'autres langages après.
Ce n'est que mon avis bien sûr...