Ciao Haze,
puoi benissimo installare joomla su terzi livelli.
Per farlo, ti basta mettere i file di installazione sul terzo livello e arrivarci da localhost o da remoto (a seconda di dove sei), installare normalmente e poi linkare a un database del MySQL.
Per il database, appunto, devi linkarlo al MySQL (che è unico nel tuo server, indipendentemente dai sottodomini). Quindi dal pannello server crei un nuovo database, come dati del configuration.php usi gli stessi del sito su secondo livello, cambi solo il nome del DB, che dovrà ovviamente puntare al nuovo database creato.