So wie ich Dich, nobadguy, verstanden habe, startest Du nun zwei Programme über zwei verschiedene Java-Versionen, damit beiden den "vollen" Speicher nutzen können.
Es gibt zwar Voreinstellungen, also beispielsweise Limit X MB, das man wie eisbaer angemerkt hat einstellen kann. Allerdings gelten diese pro JVM. Und da jedes Java-Programm in einer eigenen JVM läuft, kommen die sich auch nicht in die Quere. Es können also beide jeweils X MB unabhängig voneinander nutzen. Du kannst also beide problemlos über die gleiche Java-Version laufen lassen.
Außerdem sind die beiden Programme bezüglich des Speichers komplett voneinander abgeschirmt, also Programm A kann nicht auf den Speicher von Programm B zugreifen, da diese getrennte Speicherbereiche haben. (Mal ausgenommen native Calls oder Ausbrüche aus der JVM).