L'uso di Joomla 1.0.13b non dovrebbe cambiare nulla da questo punto di vista...
Ma ricevi la mail in formato HTML (formattato) o solo testo? Con che programma la leggi? Intendi la mail per l'acquirente o per il negoziante?
Prova ad aprire il file ps_checkout.php, nella cartella /administrator/components/classes/com_virtuemart/classes/, vai alla riga 2004 (quella che inizia per "$shopper_mail = vmMail"), e cambiala così:
$shopper_mail = vmMail( $from_email, $mosConfig_fromname, $shopper_email, $shopper_subject, htmlentities($shopper_mail_Body), $shopper_mail_AltBody, true, null, null, $EmbeddedImages);
Questo per la mail che riceve il cliente; la riga della mail di notifica al negoziante la trovi appena sotto, e cambiala così:
$vendor_mail = vmMail( $shopper_email, $shopper_name, $vendor_email, $vendor_subject, htmlentities($vendor_mail_Body), $vendor_mail_AltBody, true, null, null, $EmbeddedImages);
Guarda questa cosa dei charset ti fa impazzire... Spero che presto Joomla 1.5 "scavalchi" il suo predecessore, e possiamo tutti passare universalmente all'UTF-8.