afaik wird der ordner mail gar nicht mehr genutzt, sondern nur die funktion usermail(), die sich in der lib/extras.lib.php befindet...
vielleicht hast du nicht die korrekte absenderadresse angegeben, manche server weigern sich, mails mit unbekanntem/falschem absender zu schicken.