Nottingham Forest bröt mot regler om lönsamhet och hållbarhet.