Le testimonianze più antiche di questa costellazione ci sono state tramandate da Callimaco. I Fenici la utilizzavano come guida per la navigazione, e forse è proprio Talete, astronomo del sesto secolo a.C. di origine fenicia, ad averla inventata o perlomeno ad averla diffusa ai Greci.
Arato nominò questa costellazione "Cynosura", dal greco "coda del cane", da cui la parola inglese "cynosure" che significa "stella che guida". Arato la vedeva come il simbolo di Ida, che insieme ad Adrastea (rappresentata invece dall'Orsa Maggiore) erano le due ninfe che allevarono il giovane Zeus.
Nell'Orsa Minore, chiamata anche "Piccolo Carro" o "Carro del cielo" (in sumerico MAR.GID.DA), brilla la famosa e simbolica stella "Polaris", chiamata così perché si trova nelle immediate vicinanze del polo nord celeste, ed è per questo che nell'antichità sostituiva la bussola, in quanto è l'unica stella luminosa che approssimativamente non cambia mai di posizione nel cielo, indicando il Nord. Altre stelle luminose sono Kochab e Pherkad, entrambe derivanti dalle parole arabe che significano rispettivamente "stella" e "i due piccoli". La stella luminosa più vicina a quella Polare è Yildun, dalla parola turca "yildiz", che vuol dire "stella".