Innanzitutto ti consiglio di seguire
questa guida.
In secondo luogo controlla se il tuo problema è relativo al tuo sito o al tuo browser (prova da altri dispositivi/browser, magari non è "colpa" del tuo Joomla!).
Infine prova a fare questo:
Vai su Estensioni -> Lingue -> Installate. L'italiano deve essere la lingua predefinita (stellina gialla)
Cerca il plugin System -> Language Filter e setta "Lingua per nuovi visitatori" su "Lingua del sito"