Nigdy nie instalowałem Studio w systemie Solaris w VMWare, ale zainstalowałem Studio w systemie Solaris działające w VirtualBox, więc być może może to być pomocne.
Instalator Studio nie zna żadnego środowiska wirtualnego. Tak długo, jak widzi, że instaluje się w systemie Solaris, powinieneś być w stanie uruchomić skrypt instalatora produktu tak, jakby był w systemie Solaris bez systemu operacyjnego. To działało dla mnie. Jeśli masz problem, zawsze możesz po prostu pobrać produkt Studio jako tarball i rozpakować go do dowolnego katalogu. Tak czy inaczej, musisz zmienić zmienną PATH, aby znaleźć pliki wykonywalne Studio.
Ostatni komentarz, najnowszy produkt Studio to 12.3, więc chciałbym pobrać i zainstalować tę wersję. Jest dostępny zarówno w pakiecie Solaris 10, jak i w formie tar-ball na stronie internetowej Oracle Technology. Zobacz: oracle.com/goto/SolarisStudio