Se le atribuye la creación de The Terminator habiendo creado dos guiones para los episodios «Soldier» y el «Demonio con mano de cristal» (Demon with a Glass Hand) en 1964, pertenecientes a la serie «The Outer Limits» que posteriormente plagiaria James Cameron, llegando a instancias legales con este pero solo logrando un acuerdo para que el nombre de este autor original aparezca en los créditos.
En 1955 se trasladó a Nueva York, donde vivió en la misma pensión que Robert Silverberg.
Ellison se casó en cinco ocasiones: con Charlotte B. Stein (1956-60), Billie Joyce Sanders (1960-63), Loretta Patrick (durante 7 semanas en 1966), Lori Horowitz (1976-77), y Susan Toth desde 1986 hasta el momento de su muerte.
Sus cuentos más famosos son La bestia que gritaba amor en el corazón del universo (The Beast that Shouted Love at the Heart of the World), No tengo boca y debo gritar (I Have No Mouth and I Must Scream), ¡Arrepiéntete, Arlequín!, dijo el señor Tic-tac (Repent, Harlequin!
Su obra ha sido adaptada a otros medios, incluyendo un videojuego basado en No tengo boca y debo gritar, en el que su voz aparecía como representación del ordenador.