Iniciado en el Arenas Club de Guecho como extremo izquierdo, pasó a conformar la «primera delantera histórica»" del conjunto bilbaíno,[1][n. 1] y posteriormente de la conocida como «delantera eléctrica» del conjunto valencianista.[2][n.Travieso y mal estudiante, más interesado por el fútbol que por los libros, abandonó los estudios y entró a trabajar en una factoría naval de Sestao, donde aprendió el oficio de tornero.El Arenas Club le fichó del Zugazarte por 30 duros de plata y Gorostiza llegó a jugar 10 partidos con los areneros.Gorostiza, sin embargo, enfrentado a la directiva del Arenas, se declaró en rebeldía, abandonó Vizcaya y el Arenas y se escapó a Argentina, residiendo durante algún tiempo en casa de un pariente suyo en Buenos Aires.[5] En el equipo bilbaíno jugó a partir de la temporada 1929-30 y formó parte de la conocida como "primera delantera histórica" del Athletic Club, junto a Lafuente, Iraragorri, Bata, Chirri II y Unamuno.Además consiguió dos veces el Trofeo Pichichi, marcando 19 goles en la temporada 1929-30 y 12 en la 1931-32, este último con una curiosidad.Gorostiza estaba al inicio de la guerra en Vizcaya, que queda en la zona republicana.El Euzkadi realizó una brillante gira por Europa disputando partidos amistosos hasta que Bilbao cayó en manos franquistas.[8] Tras la guerra, siguió militando en el Athletic Club, pero en la temporada 1940-41 fue traspasado al Valencia C. F.. A pesar de ser ya un veterano de 31 años siguió rindiendo en el Valencia seis temporadas a grandísimo nivel.Al año siguiente jugó en un modesto club asturiano, el Real Juvencia de Trubia.Por último, en 1948, se marchó al Club Deportivo Logroñés en la Tercera división española, donde compaginó funciones de jugador y entrenador.En los últimos años de su vida sufrió una afección pulmonar que desencadenó su muerte prematura.
Gorostiza era apodado «bala roja» por su gran velocidad.
