Border collie został wyhodowany do ciężkiej pracy w każdych warunkach pogodowych. Jego przodkowie wywodzą się od psów Rzymian, które towarzyszyły legionom w czasie podboju Brytanii. Duże, masywne czworonogi wykorzystywano wówczas do ochrony inwentarza. Po upadku Imperium Rzymskiego na Wyspy Brytyjskie dotarli wikingowie, a wraz z nimi psy w typie szpiców, używane do wypasania stad. Po skrzyżowaniu ich z miejscowymi czworonogami pojawiły się zwierzęta mniejsze, lżejsze i bardziej zwinne. Uważa się je za przodków angielskich ras pasterskich. Pierwsze wzmianki o pracujących owczarkach datują się na 943 r. W książce Johannesa Caina pochodzącej z 1573 r. znajduje się opis psów w typie border collie, które nie tylko wypasały bydło, ale również pędziły je na targ. Począwszy od XV w., rosła liczba zwierząt w gospodarstwach, a wraz z nią zapotrzebowanie na owczarki. Powstało wówczas wiele lokalnych odmian psów, dostosowanych do warunków i rodzaju wykonywanych zadań, a nawet wyspecjalizowanych w pracy z określoną rasą owiec. Ważnym sprawdzianem ich umiejętności były organizowane od 1873 r. sheepdog trials, podczas których psy miały za zadanie przepędzić owce, gęsi lub kaczki trasą z przeszkodami i wprowadzić je do zagrody. Pasterz mógł wydawać komendy słowne lub gwizdać.

Duży wpływ na wizerunek współczesnych border collie miał przedstawiciel rasy o imieniu Old Hemp, którego wygląd posłużył do stworzenia wzorca. Był on też doskonałym psem użytkowym, a rekordowe wyniki, które uzyskał na sheepdog trials, nie zostały pobite do końca jego życia. W 1906 r. powstało International Sheepdog Society (ISDS, Międzynarodowe Stowarzyszenie Psów Pasterskich). Jego zadaniem miało być rozwijanie wrodzonych predyspozycji rasy, a ich sprawdzianem – regularnie organizowane sheepdog trails. Oficjalną nazwę nadał rasie James Reid w 1916 r. Pierwszy jej człon nawiązuje do regionu położonego między Anglią i Szkocją, zwanego Border Country, gdzie ukształtował się typ bordera zbliżony do współczesnego. Słowo „collie” w dialekcie celtyckim oznacza coś czarnego i użytecznego. Początkowo ISDS nie zgadzało się, aby border collie został uznany za psa wystawowego, obawiając się, że wpłynie to niekorzystnie na jego walory użytkowe. Przystano na to dopiero w 1976 r. Pierwsze wnioski na wystawowego championa przyznano przedstawicielowi tej rasy w 1982 r. na wystawie Crufts w Wielkiej Brytanii.