[1]​ Al año siguiente, los padres emigraron a los Estados Unidos, y después de tres años de residencia en Baltimore, la familia se mudó a Pensilvania, y más adelante emigró al oeste en 1848, instalándose en una granja en Wisconsin, cerca del lago Geneva, que continuó siendo la residencia familiar hasta la muerte de los padres.

En 1869 se fue nuevamente a Nevada, atraído por la minería de la plata en White Pine, visitando también California.

[2]​ Una vez en Wisconsin, comenzó a instruirse en leyes con el Honorable John A. Smith, de Lake Geneva.

También participó en varios de los casos legales más notables que se juzgaron su jurisdicción.

[2]​ La publicación Past and Present of Winneshiek County (1913), hablaba así de Kaye: Otro que se unió a las filas de los abogados en esa época fue John B. Kaye, quien se encontraba en Calmar en 1872.

Aunque en cada litigio estuvo del lado perdedor, su manejo de los casos demostró claramente una habilidad inusual.

Kaye estaba ansioso por tener una edición local, y con ese fin había enviado la copia a la oficina de derechos de autor y se habían iniciado negociaciones que habrían terminado en una publicación el mismo año.

No tenemos ninguna duda de que es, como él dice, "puro, encantador y justo".

Pero, por alguna u otra causa, probablemente por la incompetencia del bardo, estos poemas poseen solo una cantidad de poesía menor.