Ciao e benvenuto nel forum
Devi cancellare non solo il file html ma anche tutte le cartelle e gli altri file che hai nella root per poter installarci joomla, ovviamente se non ti servono i vecchi contenuti, altrimenti devi prima spostarli in locale. Ti servirà anche un database e uno spazio adeguato per ospitare joomla, hai verificato se rispecchia i requisiti?