Читаю описание функции Bollinger Bands в руководстве и не могу понять, что к чему относится.
В моём представлении ВВ выглядит так
TL = ML + (D * StdDev)
TL - Верхняя линия
ML - средняя линия
D - число стандартных отклонений
StdDev — стандартное отклонение.

непонятно, что означают следующие параметры.
period Второй период SMA
coef Коэффициент границ Боллинджера
Проясните, пожалуйста.

Не очень понятно, где вы это читаете. В вашем случае,
Period - это период SMA для построения ML
а coef - это D.

В вашей документации

static IList<double> TSLab.Script.Helpers.Series.BollingerBands ( IList< double > closes,
IList< double > sma,
int period,
double coef,
bool isTopLine
) [static]

Продвинутые границы Боллинджера.

Аргументы:
closes Входящий список данных (значения закрытий, например)
sma Входящий список рассчитанных базовых параметров (например, SMA или EMA)
period Второй период SMA
coef Коэффициент границ Боллинджера
isTopLine Верхняя граница Боллинджера если True

Возвращает:
Возвращает рассчитанные значения

я говорил, про ML и D
у нас как раз этих парамтеров нет, но связь я вам описал.