Rouse estudió actuación en Atlanta y después, improvisación en Chicago, donde se involucró con la improvisación guru Del Close y el legendario Second City Theather de Chicago donde conoció a David Pasquesi, después de escribir y realizar un número de producciones de Second City, se trasladó a Nueva York.
Rouse también ha aparecido en películas como Austin Powers: The Spy Who Shagged Me, Friends with Money, Rudy, Sweethearts y The Heartbreak Kid.
Escribió y dirigió la película Employee of the Month, protagonizada por Matt Dillon, Steve Zahn, Christina Applegate y Andrea Bendewald.
También escribió la película de Paramount Pictures Without a Paddle, protagonizada por Seth Green y Dax Shepard.
En 2001 se casó en Malibú con la actriz Andrea Bendewald, a la que conoció en la sitcom de ABC Television The Secret Lives of Men.