J'ai un peu le même type de problème.
Sans .htaccess j'arrive à afficher mon site en utilisant mon IP externe (sur internet) et avec mon IP local et le port qui va bien.
Avec .htaccess je n'arrive à rien.
L'IP externe ne m'affiche rien, après un long moment firefox me dit "Le délai d'attente est dépassé"
L'IP local avec le bon port me renvoi vers la page de login du nas.
Dans aucun de ces 2 cas j'ai une fenêtre qui me demande de me connecter.
Voici mon .htaccess qui se trouve dans le partage web\monsite
AuthUserFile "/volume1/web/.htpasswd"
AuthName "Acces Restreint"
AuthType Basic
require valid-user
le .htpasswd se trouve à la racine du partage web et contient des lignes sous la forme
login:mdp_en_clair