Su mejor actuación en un torneo de Grand Slam ha sido acceder a las semifinales de Roland Garros 2014, perdiendo ajustadamente contra el n.º 2 del mundo, Novak Đoković y dejando en el camino a Roger Federer o Tomáš Berdych, entre otros.
Es el segundo de cinco hijos: Elina estudia Derecho en Londres, Laura asiste a la Saddlebrook Tennis Academy en Florida, un hermano más joven llamado Kristaps también asiste a Saddlebrook para formarse como golfista profesional, y otra hermana, Monika también juega al tenis; tiene otro hermano de un segundo matrimonio de su madre, Gintars Kavacis.
En la primera ronda del Abierto de Australia, Gulbis perdió ante Marat Safin 0-6, 4-6, 6-7.
Como curiosidad, Ernests, además de Roger Federer, fue el único jugador que le ganó un set al eventual campeón.
Tuvo un año muy pobre en victorias y no pasó de la segunda ronda en ningún torneo, quizás debido a que toda la expectación que produjo haya acabado por presionarlo demasiado, saliendo de los 40 mejores, hasta salirse definitivamente del top 100.
Continuó con su buen momento de forma, derrotando a Mijaíl Yuzhny y Feliciano López.
Gulbis fue eliminado en primera ronda del Masters de Shanghái 2010 ante Richard Gasquet.
Gulbis avanzó a los cuartos de final, donde fue derrotado en un partido apretado contra el N.º 1 del mundo Rafael Nadal.
Gulbis se retiró de sus siguientes tres torneos, su clasificación momentáneamente llegó a su mejor marca personal el N.º 21 del mundo, debido a que Marin Čilić no sumó puntos en el Abierto de Australia.
En la tercera ronda, fue rápidamente derrotado por el actual ganador del Torneo Novak Djokovic.
Antes de Roland Garros (donde fue eliminado estrepitosamente en primera ronda ante Blaz Kavcic), Gulbis comenzó a practicar con un nuevo entrenador, el austriaco Gunter Bresnik trabajado con Boris Becker, Amos Mansdorf, Patrick McEnroe, Henri Leconte, Stefan Koubek, Patrick Baur, Vladimir Voltchkov y Dominic Thiem.
Se clasificó para Winston-Salem, alcanzando la tercera ronda, antes de caer ante Marcel Granollers.
Regresó para el torneo bajo techo de Viena, donde cayó en la segunda ronda ante Janko Tipsarević.
Gulbis no logró clasificarse para el Torneo de Basilea, pero llegó a la final del Challenger en Eckental, donde perdió ante Daniel Brands.
Gulbis no disputó el Abierto de Australia 2013 y tras estar un tiempo fuera de las pistas, regresa jugando dos torneos Challenger, en los que fue eliminado en la segunda y la primera ronda.
Ya en Wimbledon llega hasta tercera ronda tras eliminar a Édouard Roger-Vasselin y el n.º 6 del mundo, Jo-Wilfried Tsonga (por abandono), cayendo finalmente ante Fernando Verdasco.
Gulbis derrotó a Feliciano López, Fabio Fognini y Andy Murray para llegar a los cuartos de final del Masters de Canadá, perdiendo ante el finalista y tenista local Milos Raonic en tres sets.
Era la primera vez que Gulbis había ganado más de un título ATP en una sola temporada.
Durante el torneo, Gulbis derrotó a Jeremy Chardy, Igor Sijsling y Jerzy Janowicz.
En cuartos de final dio una de las grandes sorpresas al vencer al n.º 4 del mundo y campeón defensor en Róterdam, Juan Martín del Potro por un contundente 6-3 y 6-4.
En cuartos de final se deshizo del local Nicolas Mahut por 6-3 y 7-6(1).
En segunda ronda sufrió más para derrotar a la joven promesa David Goffin por 6-1, 3-6, 7-6(5).
En cuartos de final cayó ante el local John Isner por 6-7(4), 6-7(3), tras dos intensos tie-breaks.
En el Masters de Miami cayó sorprendentemente derrotado ante Julien Benneteau por 6-7(2), 6-3 y 6-2 debido al cansancio.
En segunda ronda batió al español Daniel Gimeno-Traver por parciales de 7-5 y 7-6(1).
Ganó sin problemas en cuartos de final al ruso Teymuraz Gabashvili por 6-1 y 6-4.
En tercera ronda también pudo ante Marin Čilić al ganar por parciales de 6-3 y 6-4.
Sin embargo, no llegaría más lejos de ahí, ya que en segunda ronda cae ante la revelación austríaca Dominic Thiem por 6-4, 6-3, 4-6, 3-6 y 3-6, tras ir dos sets arriba.
Luego comienza su gira europea que tantas alegría le dio el año pasado.
Gulbis emplea la dejada constantemente y con frecuencia, a veces hasta el punto de burla.