Fue un asociado del famoso Louis Buchalter y parte de su organización criminal conocida como Murder, Inc.
La Oficina Federal de Narcóticos señaló que Weiss y su socio criminal Philip "Little Farvel" Cohen estaban muy involucrados en el narcotráfico.
Weiss tomó parte personalmente en varios asesinatos a sueldo para el Sindicato nacional del crimen.
Ordenó al chofer, Seymour "Piggy" Schechter, irse sin Workman, quien aún estaba terminando de matar a Schultz en el baño del restaurante.
Weiss se defendió argumentando que Workman había regresado al baño de hombres no para asegurarse que el trabajo había sido cumplido (como afirmaba Workman), sino simplemente para robar el dinero y otras pertenencias de Schultz.
Al final fue Louis Buchalter quien pudo salvar a su teniente Weiss de ser asesinado por la Mafia.
[3] Fotos nunca antes publicadas del asesinato en la tienda de Rosen aparecieron en el libro New York City Gangland.