Der er forskellige historier om, hvordan racen opstod, her er et par stykker af dem:
En nybygger ved navn Mr. Allen skulle have set, hvordan MicMac indianerne brugte nogle rævelignende hunde til at lokke ænder på skudhold.
Han forsøgte at fremavle en hund, som lignede en ræv, ved at parre en leverfarvet flatcoated retriever med en labradorlignende hund. Afkom herfra blev så parret med Brittany Spaniel (Breton)
og senere blev også hyrdehund (Farm Collie) indblandet i racen. Alt dette foregik omkring 1860.

En anden teori går på, at nybyggere fra Skotland medbragte nogle små røde hunde, som i England blev brugt som ”decoy dogs”, lokkehunde. I England havde man nogle specielle kanaler, overdækket med net, de blev kaldt ”pipes”.

Langs disse kanaler var der opsat rækværk, forskudt for hinanden. Hundene blev så sendt herind og kaldt tilbage igen. Ænderne var nysgerrige og svømmede ind i kanalerne for at se, hvad det var, der ind imellem dukkede op mellem rækværkerne. Når ænderne var langt nok inde i kanalerne, kunne de nedlægges og hentes i land. Hundene her blev kun brugt som lokkehunde, ikke som apportører. Muligvis har disse hunde oprindelse i Holland/Belgien, hvorfra også Kooikerhondjen stammer, en hund med mange af de samme egenskaber som tolleren.

Hvilken historie der er korrekt, er der ikke nogen, som ved med sikkerhed. Man kan jo vælge den, man synes bedst om. Men uanset oprindelsen så blev racen opdrættet på Nova Scotia i mange år, inden den blev kendt uden for halvøen.

Det fortælles, at jægerne på Nova Scotia vogtede over deres hunderace. Selv om der var en del af dem på halvøen, så man dem ikke, og indtil omkring 1945, hvor racen blev anerkendt af CKC, den Canadiske Kennel Klub, var de praktisk talt ukendte uden for Nova Scotia. Nova Scotia’s bedst bevarede hemmelighed! For resten hed de indtil 1945 ikke Nova Scotia Duck Tolling Retriever, men var kendt under navnet ”Little River Duck Dog”

I forbindelse med at tolleren i 1995 (50 år efter CKC anerkendelsen) blev udnævnt til Nova Scotia’s nationalhund, blev der i området syd for Yarmouth, Comeau’s Hill, rejst et skilt, som angiver, at dette er ”Birthplace of the Little River Duck Dog” – et absolut ”must”, hvis man er på de kanter.

Fra 1945 og frem til 1965 gik det stadig tilbage med registreringen af racen, ikke fordi der ikke blev opdrættet hvalpe, men fordi opdrætterne ikke gjorde sig den ulejlighed at få hvalpene registreret.

I forbindelse med fastsættelsen af standarden var der nogen diskussion om størrelse. I de nordlige egne af Nova Scotia var tilgangen til vand væsentlig vanskeligere end i den sydlige del. Desuden er der på nordsiden stor forskel på høj- og lavvande, man har der verdens største tidevand med op til 10 m forskel på høj og lav vandstand. Dette gjorde, at opdrættere på den nordlige del af halvøen foretrak væsentlig større tollere, end man gjorde i den sydlige del, hvor de typiske jagtområder var moser og indsøer med noget roligere vand. Opdrætterne omkring Yarmouth foretrak en mindre toller. Man fik dog skrevet en standard for racen med plads til ret store forskelle på små og store tollere.

At de fødte hvalpe ikke blev registreret medførte, at racen omkring 1960 var ved at uddø. Der var kun nogle få hunde tilbage, som var registreret. En lille flok opdrættere gik i gang med et kæmpearbejde for at ”rekonstruere” racen med de få registrerede hunde samt andre, som ikke var registreret. Ud fra disse få hunde stammer alle de tollere, der er i dag rundt om i verden. En nu afdød dansk toller (født 1993) kunne på fem generationer føres tilbage til ”Foundation Stock” i 1963.