Общепринятый протокол для общения с MSSQL - TCP/IP
Посмотреть, какой протокол используется, можно в Client Network Utility - General - Enabled protocols by order, при этом проверив, не задан ли для сервера алиас (тогда протокол смотреть там). Смотреть надо на машине с AOS
P.S. Я вообще правильно вопрос понял?
