Prestsetrið og kirkjustaðurinn Borg stendur við botn Borgarvogs, norðan og austan Borgarness. Í katólskum sið var kirkjan helguð Mikael erkiengli. Kirkjan, sem nú stendur, var reist 1880 og útkirkjur eru á Álftanesi og á Ökrum. Kirkjur hafa staðið að Borg síðan árið 1003.

Skalla-Grímur Kveldúlfsson nam Borgarfjörð og byggði sér bæ að Borg.  Hann stundaði búrekstur víðar um héraðið um sína daga. Egill sonur hans tók við búi föður síns. Hann var var garpur mikill, sparsamur á fé og skáld gott. Konungar og höfðingjar erlendis fengu að finna fyrir víkingseðli hans, því hann var tiltölulega friðsamur hérlendis. Kunnustu kvæði hans eru Höfuðlausn, sem varð til, þegar hann þurfti að bjarga lífi sínu frá reiði erkióvinar síns, Eiríks blóðaxar, og Sonartorrek, sem hann orti um sonamissi sinn. Hann gat ekki hefnt harma sinna vegna dauða sonanna tveggja, þar eð goðin höfðu tekið þá frá honum og harmurinn dvínaði við að yrkja. Skalla-Grímur var fluttur til greftrunar að Naustanesi og heygður, þar sem Skalla-Grímsgarður er nú í Borgarnesi.

Samkvæmt Laxdælu var Kjartan Ólafsson fluttur til greftrunar að Borg, þegar kirkjan þar var nývígð, og liggur þar grafinn. Kunnastur veraldlegra höfðingja, sem sátu Borg, var Snorri Sturluson. Hann sótti þangað auð sinn með því að kvænast Herdísi Bessadóttur prests og sat staðinn 1202-1206. Þá skildu þau og Herdís sat þar áfram, þegar Snorri fluttist að Reykholti.

Minnismerkið Sonartorrek eftir Ásmund Sveinsson var reist 1985 við Borg.  Skammt frá Borg á Mýrum er einhver mesta laxveiðiá landsins, Langá, sem á upptök sín í Langavatni á Mýrum.