Correggo per una regola ancora migliore... la prima regola va eliminata e sostituita con la seguente, che andrà ripetuta anche prima della seconda regola.
In pratica invece di escludere da qualsiasi redirect e rewrtie sottocat/CATEGORIA/ e file annessi, dice che esclude quelle cartelle e i suoi file solo dalla regola che segue.
RewriteCond %{REQUEST_URI} !^/sottocat/CATEGORIA/(.*)
Nel mio caso, quindi usando queste regole per phocagallery, con la regola che avevo detto in precedenza funzionava tutto ma non mi permetteva i download delle immagini ( pagina?phocadownload=2 ), appunto perchè escludevo l'intera categoria dal rewrite... adesso che invece la categoria l'ho esclusa solo dalla singola regola funziona tutto egregiamente!