[4]​ Columbus fue fundada en 1891 justo al otro lado de la frontera con México desde Palomas, Chihuahua, nombrada en honor a Cristóbal Colón.

En 1902, el pueblo fue trasladado a 3 millas (5 km) al norte cuando la compañía ferroviaria El Paso and Southwestern Railroad construyó allí su estación de tren.

El presidente Woodrow Wilson respondió a esta invasión con el envío de 10 000 soldados estadounidenses a México en persecución de Villa, bajo el mando del general John J. Pershing, esta fallida incursión es conocida como la Expedición Punitiva; nunca logró atrapar a Villa, que escapó exitosamente en todas las ocasiones.

Según el censo de 2010,[5]​ había 1664 personas residiendo en Columbus.

De los 1664 habitantes, Columbus estaba compuesto por el 65.2% blancos, el 0.3% eran afroamericanos, el 1.14% eran amerindios, el 0.12% eran asiáticos, el 0% eran isleños del Pacífico, el 31.19% eran de otras razas y el 2.04% pertenecían a dos o más razas.