El ferrocarril Atlantic and Great Western comenzó como tres ferrocarriles separados: el ferrocarril Erie and New York City, con base en Jamestown, Nueva York ; el ferrocarril Meadville, con base en Meadville, Pensilvania (rebautizado como A&GW en abril de 1858); y el ferrocarril Franklin and Warren, con base en Franklin Mills, Ohio (rebautizado como A&GW en enero de 1853).
Los propietarios de los tres ferrocarriles habían trabajado en estrecha colaboración desde una reunión del 8 de octubre de 1852 en Cleveland para planificar una expansión que se describió como la "Gran Ruta Amplia", utilizando el ferrocarril Erie para llegar a las respectivas áreas.
El 12 de marzo de 1862, el control general de las tres compañías quedó a cargo de una junta central compuesta por dos directores de cada una de las compañías. La junta de Ohio estuvo representada por Marvin Kent y Worthy S. Streator ; la junta de Pensilvania por William Reynolds y John Dick; y la junta de Nueva York por AF Allen y Thomas W. Kennard. Reynolds fue elegido presidente de la junta. La línea llegó a Cleveland, Ohio , el 18 de noviembre de 1863 y se conectó al ferrocarril de Cincinnati, Hamilton y Dayton en Dayton el 20 de junio de 1864, que unía San Luis con la ciudad de Nueva York a través de una línea de ancho de vía de 6 pies ( 1829 mm ).
El 19 de agosto de 1865 se redactó un acuerdo para fusionar las tres empresas independientes, cada una de ellas denominada Atlantic and Great Western Railroad, en la Atlantic and Great Western Railway. El 5 de octubre de ese año, la nueva empresa emitió una hipoteca de 30 millones de dólares para saldar las hipotecas pendientes de varias empresas incluidas en la fusión.
La empresa pasó a manos de un síndico, Robert B. Potter de Nueva York, el 1 de abril de 1867. Potter operó el ferrocarril hasta diciembre de 1868, cuando fue arrendado por 12 años por el Ferrocarril Erie. Jay Gould , entonces presidente de Erie, dispuso que la empresa volviera a ser puesta bajo administración judicial , esta vez con Gould y WA O'Doherty como síndicos. Esta administración judicial fue transferida a Reuben Hitchcock de Cleveland en noviembre de 1869. En febrero de 1870, Erie volvió a arrendar la empresa, pendiente de ejecución hipotecaria . La ejecución hipotecaria se llevó a cabo y la propiedad fue comprada el 26 de julio de 1871 por el general George B. McClellan , William Butler Duncan y Allen G. Thurman. El 3 de octubre de 1871 se finalizó la escritura de propiedad. La nueva compañía se denominó Atlantic and Great Western Railway , igual que la anterior, pero al consolidarse las partes individuales (una en cada estado) en noviembre, el nombre se cambió nuevamente a Atlantic and Great Western Railroad .
En mayo de 1874, la Atlantic and Great Western fue nuevamente arrendada por Erie, en términos muy generosos para A&GW y su patrocinador James McHenry. El 10 de diciembre de 1874, el nuevo presidente de Erie, Hugh J. Jewett , repudió el contrato de arrendamiento y la compañía pasó a manos de un nuevo síndico, JH Devereaux. Esta acción dio lugar a una serie de demandas entre McHenry y Jewett que avergonzaron a ambas compañías. El 10 de enero de 1880, la propiedad fue nuevamente vendida por ejecución hipotecaria y se reorganizó como New York, Pennsylvania and Ohio Railroad .