Premier League-klubben Nottingham Forest bröt mot regler om lönsamhet och hållbarhet.