Transformation Formulas for Generalized Dedekind Eta Functions