Михаил Григорьевич Ярошевский родился в 1915 году в Херсоне. Сразу после окончания школы он переехал в Ленинград, где поступил на факультет русского языка и литературы Ленинградского педагогического института. Окончил институт в 1937 году, поступил в аспирантуру к С. Л. Рубинштейну. В начале 1938 года он был арестован, но вскоре, после того, как был смещён со своего поста нарком внутренних дел Ежов, а на эту должность был назначен Берия, был освобожден.
В первой половине 1940-х годов Михаил Ярошевский переехал из Ленинграда в Москву. Там он был зачислен в незадолго до этого организованный сектор психологии в Институте философии АН СССР под руководством Рубинштейна и перевелся в аспирантуру в Государственном институте психологии. Как сотрудник Института психологии Михаил Ярошевский был в эвакуации в ходе войны в Средней Азии. В 1945 году завершил кандидатскую диссертацию «Учение А.А.Потебни о языке и сознании». Диссертация получила одобрение официальных оппонентов А.А.Смирнова и Б.М.Теплова и была успешно защищена.
В 1951 году в Советском Союзе была развязана антисемитская кампания по борьбе с «космополитизмом», что послужило причиной отъезда Ярошевского из Москвы в Таджикистан. В 1960 году он организовал кафедру психологии в Душанбинском педагогическом институте и лабораторию экспериментальной психологии в Таджикском государственном университете, которые возглавлял до своего отъезда в Москву в 1965 году.
По возвращении в Москву Михаил Ярошевский начал работать в Институте истории естествознания и техники АН СССР, где он в 1968 году создал и в течение многих лет возглавлял сектор, занимающийся психологическими проблемами научного творчества. В 1990-е годы он был избран почётным академиком РАО (1990) и действительным членом Нью-Йоркской академии наук (1994). Входил в редколлегию серии «Научно-биографическая литература» в издательстве «Наука». В течение многих лет был членом редколлегии журналов «Вопросы психологии», «Вопросы истории естествознания и техники» и «Психологического журнала».
В 1998 году Михаил Ярошевский эмигрировал в США. В 2001 году скончался в Лос-Анджелесе, Калифорния, США. Последнее место проживания: район Западный Голливуд (на восток от Беверли-Хиллз) Лос-Анджелеса.
Михаил Ярошевский в 1970-x — начале 1980-х в качестве редактора и комментатора принял участие в редактировании шеститомного собрания сочинений Выготского, в ходе которого были допущены грубейшие редакторские ошибки, цензурные вмешательства и явные фальсификации оригинального текста Выготского.
В своих публикациях начала 1990-х, вышедших после распада Советского Союза, Ярошевский стал отстаивать уникальность и исключительность «отечественной науки» на основании её исконно русской «духовности», а с другой стороны, её «репрессированности». Оценивая этот радикальный поворот и переоценку исторического наследия Ярошевским как две различные концепции, ведущий современный историк психологии С.А.Богданчиков подчеркивает, что «в обеих концепциях, как бы они не противопоставлялись друг другу, гораздо больше сходного, чем различий: и в той, и в другой концепции обнаруживаются одни те же принципиальные методологические и эмпирические ограничения».
Михаил Ярошевский известен прежде всего как автор многочисленных работ по истории и методологии психологии. В качестве важнейшего принципа, определяющего развитие психологии, он рассматривает принцип детерминизма. В своей книге «История психологии» (1966) он прослеживает историю развития психологического знания (от древневосточной психологической мысли до современности) под углом того, как изменялось понимание этого принципа. История психологии рассматривается Михаилом Ярошевским как история прогресса «детерминистического знания».
В монографии «Психология в XX веке» (1971) Михаил Ярошевский обратился к исследованию устойчивых и неизменных компонентов научного знания — научных категорий, принципов и проблем. В последующих работах Ярошевский обратился к изучению социальных аспектов развития научного знания, ввёл понятие «оппонентный круг» — круг «значимых других», полемика с которыми регулирует деятельность учёного. Разработал программно-ролевой подход к изучению развития науки.