Посмотрите здесь .
Вот еще идея: строим линию регрессии цен не "слева направо", т.е. из прошлого в будущее, а "справа налево" - от сегодняшней цены в историю, постоянно контролируя величину коэфф. детерминации (тот самый R2). Как только величина R сквайред станет меньше допустимой, расчет регрессии прекращаем. Угол наклона линии регрессии и будет индикатором тренда: чем меньше угол накл., тем ближе тренд к флэту.
Построение такого индюка "в лоб" приводит к перерасходу вычислительных ресурсов (один индюк считается несколько минут), нужна серьезная оптимизация алгоритма, с которой я пока не справился...