WritingModeを「VerticalLeftToRight」または「VerticalRightToLeft」に設定して、文字を縦書き表示にしても、Windows 7 等では横書きのまま表示されます。

これは、本コンポーネントの仕様上の制限です。

本コンポーネントでは、縦書きは内部的に、Direct2DのDrawTextLayoutメソッドを使用しています。このとき、いくつかのパラメータを指定する必要がありますが、これらはWindows 8以降でのサポート※となっているため、それ以前の環境では縦書き表示が正しく行われない場合があります。

※参考（MSサイト、英語）
　Vertical Text
　https://msdn.microsoft.com/ja-jp/library/windows/desktop/jj218764.aspx