En 1799 ocupó el cargo de guardiamarina con su padre, el capitán Christopher Raymond Perry, en las Indias Occidentales durante la Cuasi Guerra contra Francia, tras la que fue ascendido a teniente.Así mismo participó en una incursión exitosa para recuperar un barco estadounidense retenido en territorio español en Florida.[1] El consejo de guerra posterior exoneró a Perry, culpando al piloto del barco.El buque insignia de Perry el, USS Lawrence, estaba incapacitado, pero regresó y obtuvo la embarcación más pequeña, el USS Niágara, trasladando la bandera que decía Don't Give Up The Ship, (traducido, No rendid el barco, honrando las últimas palabras del capitán James Lawrence de la bahía de Chesapeake) y luego volvió vencer a los barcos británicos bajo el mando del capitán Robert Heriot Barclay.En Puerto España, en la colonia británica de Trinidad su cuerpo fue enterrado con honores militares presentados por la tripulación del USS Nonsuch.Tiempo después sus restos fueron exhumados y llevados a los Estados Unidos para ser enterrados en el Old Common Burial Ground de Newport, Rhode Island.