Su nombre original era Andrea, pero cuando obtuvo la nacionalidad estadounidense sus padres decidieron cambiarlo debido a que "Andrea" es considerado un nombre femenino en la mayoría de países de habla inglesa.
Viterbi estudió en la Boston Latin School, y en 1952 entró en el MIT, como estudiante de ingeniería electrónica.
Allí coincidió, entre otros, con Claude Shannon, Norbert Wiener, Robert Fano y Bruno Rossi.
Viterbi fue cofundador de Linkabit Corporation, junto con Irwin Jacobs en 1968, una pequeña contrata militar.
En 2002, Viterbi dedicó el Centro de Computación Andrew Viterbi'52 a su escuela, Boston Latin School.