Для начала попробуйте по стандартному SMTP по 25 отработать.

Для 465 порта - помониторить состояние netstat - куда он именно лезет. Более серьезные варианты - посмотреть трафик на файрволе или на локальной машине при помощи Wireshark