IPageSetup.CustomPaperSizeメソッドを使用することにより、Pagesize列挙体のいずれにも該当しない独自の用紙サイズをインチ単位で設定可能です。

var workbook = new GrapeCity.Documents.Excel.Workbook(); 
IWorksheet sheet = workbook.Worksheets[0];

sheet.Range["A1"].Value = "test";
sheet.PageSetup.CustomPaperSize(4, 4); 

workbook.Save("test.pdf");