Ciao,
quando scrivi che "il menu perde le caselle rettangolari standard del menu", a cosa ti riferisci? Mica l'ho capito...
Attento alla visualizzazione responsive del tuo menu. Accertati che sia navigabile anche da smartphone.
A te interessa, se non ho capito male, che le voci principali siano posizionate in orizzontale e le sottovoci in verticale?
Oppure il contrario? Cioè che le voci principali siano in verticale e le sottovoci appaiano a destra?
P.S. Non ti "incasinare" con il template protostar che perdi solo tempo a capire come e dove sono scritte le regole css.
Al massimo creati un file nuovo e chiamalo "user.css" e mettilo nella cartella del template.
In quel modo ti puoi scrivere da zero tutte le regole che vuoi.
Te lo consiglio, se mi permetti, proprio perchè sei agli inizi e ti stai infilando in una modifica dalla quale potresti non uscire più.
Prova ad eliminare le tue modifiche fatte al menu.
Abilita la visualizzazione delle sottovoci nel modulo del menu principale e vedi se ti stanno bene come protostar te le presenta.
Nel caso contrario, devi o scrivere tu i css oppure installare qualche estensione che lo faccia per te.
Saluti