Establecidos en Nueva York, Marius comenzó a trabajar como caricaturista y dibujante en la prensa de la ciudad.
Marius permaneció en la capital francesa un año, que aprovechó para descubrir el cubismo y conocer al español Pablo Picasso.
Tras el fracaso de la publicación, logró convencer al mecenas Agnes Ernst Meyer para abrir en 1915 una nueva galería de arte que expusiese en Nueva York los avances del arte contemporáneo, con él mismo al frente.
La galería, llamada The Modern Gallery, expuso a autores como Picasso, Braque, Picabia, André Derain o Brancusi, vistos entonces como una auténtica novedad en Estados Unidos.
Sin embargo, este éxito mermó su relación con Stieglitz, que lo veía ahora como un serio competidor de su propia galería.