Компания Electro-Harmonix была основана в 1968 году Майком Мэтьюзом (Mike Matthews) в Нью-Йорке. Майк был клавишником (в своё время он играл даже с The Beatles), но в 1967 году он оставил эту профессию и перешёл в торговый отдел компании IBM. Вскоре Мэтьюз осознал, что эта работа - не для него, и решил вернуться к работе клавишника. Но его жена (теперь уже бывшая) считала, что Майк не в состоянии её обеспечить, поэтому Метьюз нашёл партнёра - Билла Берко (Bill Berko), мастера по ремонту аудиопродукции - и основал собственное дело по разработке и производству педалей эффектов для гитар. Эти педали сразу приобрели популярность и были использованы, например, для записи песни (I Can't Get No) Satisfaction группы The Rolling Stones, также их использовал в своём творчестве Джими Хендрикс (Jimi Hendrix).
В связи с неожиданной кончиной Билла Берко Метьюз был вынужден искать нового партнёра, которым стал Роберт Майер (Robert Myer), работавший с Майком в компании IBM. Именно Майер предложил свою разработку гитарных усилителей, которая тоже поступила в производство.
Первой педалью эффектов, выпущенной Electro-Harmonix, стала модель Axis, также известная как Foxey Lady. В 1969 году начались разработки одной из самых известных педалей компании - Big Muff - а также гитарных усилителей Майера, получивших название LPB-1 (Linear Power Booster). Новые модели были весьма популярны среди профессиональных музыкантов и остаются таковыми до сих пор.
В середине 80-х годов прошлого века начались продажи электроламп для гитарных усилителей, которые изготавливались компанией ещё с 70-х годов - ими комплектовались усилители, производимые Electro-Harmonix.
На настоящий момент продуктовый ряд компании весьма широк, но профессиональные музыканты не единожды высказывались по поводу высочайшего качества каждого изделия, маркированного "Electro-Harmonix". Поскольку Майк Метьюз является также президентом компании Sovtek, производственные мощности которой находятся в Саратове, ряд товаров Electro-Harmonix также изготавливается не только в США, но и в России.