El jugador ya empezaba a destacar sobradamente en McEachern, donde fue elegido dos veces All State.Smith promedió 20.6 puntos, 11.6 rebotes, 4 asistencias y 6 tapones en su último año en este instituto.En Oak Hill estableció récords como máximo anotador en una temporada con 980 puntos, liderando al equipo a un récord de 38-0, n.º 1 nacional.En su primera temporada promedió 9,7 puntos, 6,2 rebotes, 1,9 tapones y 27,7 minutos en 74 partidos, 59 de ellos como titular.Sus números se incrementaron considerablemente después del parón del All-Star, firmando 15 puntos, 7.8 rebotes, 4.1 asistencias, 3.1 tapones y 1 robo y postulándose como uno de los candidatos el próximo año a jugador más mejorado.No se quedó muy lejos, un año después, en la 2006-07 Josh acabó la campaña con buenos números, 16.4 puntos, 8.3 rebotes, 3.3 asistencias, casi 3 tapones y 1.4 robos de media.Acabó en segundo lugar en tapones por partido y totales aunque el equipo volvió a fracasar en su intento de meterse en playoffs.Su llegada al conjunto de Míchigan prometía un poderoso frontcourt con el propio Smith, Greg Monroe y el joven Andre Drummond, teniendo que jugar Smith en la posición de alero.La mayor crítica se le achaca a la irregularidad y la falta de consistencia en su juego.
