Начало изучению истории края было положено в молодой автономии ещё в 30-е годы прошлого века. Уже тогда краеведческую работу оценивали как особо важное для дальнейшего развития округа и города дело. Неотъемлемой частью проведения этой работы сочли создание специального музея краеведения. В первое время существования музея он был размещён всего в одной комнате, на верхнем этаже почтового дома. Сотрудник у этого музея тоже был один, он же являлся директором. Михаил Базыкин собрал удивительную коллекцию для музея, провёл долгую и сложную работу по изучению особенностей развития краевой культуры. Собранные для музея древности уже тогда удивляли современников, а сейчас их ценность и интерес к этим вещам возросли в множество раз. Даже названия этих предметов порой ни о чём уже не говорят — тредулки-самопалки, кремневые моржевки сейчас не так просто себе представить. В коллекции музея также появилось множество старинных головных уборов и украшений, характерных для культуры ненейцев и народности коми. Для всего собранного материала нужно было новое, отдельное помещение. Коллекция выросла настолько, что хранить её в одной комнате было неудобно, да и статус, и собранные сведения для научного отдела музея не позволяли больше тесниться в старом помещении.
Здание нашлось далеко не сразу, к тому же начались проблемы с систематизацией информационного фонда. Краеведение — это сложная область знаний, которая не ограничивается сбором исторических свидетельств, а требует детального анализа и глубокого исследования. В 1933 году система работы музея значительно улучшилась, тогда в здании ещё не достроенного дома было проведено две выставки с несколькими разделами. Тогда экспозицию увидели две трети населения города. Но работа музея по-прежнему не была отлажена до должного уровня, снова появились проблемы с помещением и вся коллекция долгое время хранилась в ужасных условиях.
Часть экспонатов сильно пострадала, часть была утеряна в годы войны. Зато в послевоенное время, когда наладилось строительство, музей обрёл новую жизнь — сохранившиеся экспонаты были систематизированы и приведены в порядок, а в 2009 году у музея появилось долгожданное собственное здание. Сейчас в музее уникальная, интереснейшая коллекция, которая охватывает буквально все стороны жизни Ненецкого автономного округа.