Se graduó en Derecho en 1948 y al año siguiente comenzó a ejercer en la abogacía.
Koch fue elegido líder de distrito del Partido Demócrata para Greenwich Village, cargo en el que estuvo desde 1963 hasta 1965.
En 1965 apoyó públicamente al republicano John Lindsay como candidato a la alcaldía, aun cuando seguía siendo líder de distrito demócrata.
Koch dijo que inició su carrera política como "un simple liberal", con ideas que incluían la oposición a la Guerra de Vietnam y la realización de marchas en el sur del país para apoyar los derechos civiles.
En 1977, Koch compitió en las primarias del Partido Demócrata para la alcaldía de Nueva York contra Abraham Beame, la congresista Bella Abzug, y Mario Cuomo, entre otros.
[6] Koch también atribuye parte del mérito de su victoria a la decisión tomada por Rupert Murdoch, por la que el New York Post le apoyaría en las primarias y en las elecciones generales.
[7] Koch ganó la votación inicial en las primarias demócratas, así como la segunda vuelta entre él y Cuomo.
En su mandato como alcalde, Koch restauró la estabilidad fiscal a la ciudad de Nueva York y creó un presupuesto equilibrado.
En abril de 1980, Koch desarticuló con éxito una huelga del metro y los autobuses, invocando la Ley Taylor, que prohibía las huelgas de empleados del gobierno local o estatal e imponía multas a cualquier sindicato que convocara huelga, la cual se estaba prolongando más de la cuenta.
Sin embargo, invitó a Ronald Reagan a la Mansión Gracie poco después de las elecciones presidenciales de ese mismo año, en el que Reagan derrotó al candidato demócrata, Jimmy Carter.
En 1981, Koch se presentó para la reelección como alcalde en 1981 con el apoyo de los partidos Demócrata y Republicano.
Estas posturas encontraron duras críticas por parte del capítulo local de la Unión Americana de Libertades Civiles y muchos líderes afroamericanos, sobre todo del reverendo Al Sharpton.
Koch sufrió un derrame cerebral en 1987 durante su mandado, pero logró continuar con sus funciones como alcalde.
A medida que se aproximaban las primarias de abril en Nueva York, Koch les recordó a los votantes el acusado antisemitismo de Jackson y señaló que si los judíos votaban por él, estaban locos.