FlexGridのソートの順序は、連結モードと非連結モードで異なります。

基本的には、連結モードの場合は、列ヘッダーがクリックされると、データテーブルの DefaultView.Sort プロパティと同様にソートが行われます。
一方非連結モードの場合は、String.Compare メソッドに従って列がソートされるか、カルチャによっては大文字小文字が区別されてソートされます。

（参考）
◇製品ヘルプ
ソート　＞ ソート順

ただし、対象となる要素のデータ型によって、また日本語が半角カタカナであるかどうかなどでも処理方法が 変わるなど様々です。大変恐縮ですがこれらの詳細な内部仕様については情報公開していませんので、ご了承ください。