У меня сигнал на вход в сделку формируется на повышенном объеме бара. Но если закрытие сигнального бара происходит ниже его середины со шпилькой сверху, это фактически означает отмену сигнала. Но программа видит просто бар с объемом и входит в сделку.

Можно как то указать, что если закрытие бара происходит на отрезке менее чем половина размера бара, то программа отменяет этот сигнал?

Просто опишите это условие на входе в позицию.
Пока бар не закрыт о нем ничего не известно, так ведь.
Т.е. Закрытие < (Максимум+Минимум)/2 на входе в позицию.