社伝によると、天平２年(730)に出雲氏族で大己貴命の子孫・真神田臣（まかんだおみ）により武蔵国豊島郡芝崎村―現在の東京都千代田区大手町・将門塚周辺）に創建されました。その後、天慶の乱で活躍された平将門公を葬った墳墓（将門塚）周辺で天変地異が頻発し、それが将門公の御神威として人々を恐れさせたため、時宗の遊行僧・真教上人が手厚く御霊をお慰めして、さらに延慶２年（1309）当社に奉祀いたしました。戦国時代になると、太田道灌や北条氏綱といった名立たる武将によって手厚く崇敬されました。
慶長５年（1600）、天下分け目の関ヶ原の戦いが起こると、当社では徳川家康公が合戦に臨む際、戦勝のご祈祷を行ないました。すると、９月15日、神田祭の日に見事に勝利し天下統一を果たされました。これ以降、徳川将軍家より縁起の良い祭礼として絶やすことなく執り行うよう命ぜられました。江戸幕府が開かれると、当社は幕府の尊崇する神社となり、元和２年（1616）に江戸城の表鬼門守護の場所にあたる現在の地に遷座し、幕府により社殿が造営されました。以後、江戸時代を通じて「江戸総鎮守」として、幕府をはじめ江戸庶民にいたるまで篤い崇敬をお受けになられました。明治時代に入り、社名を神田明神から神田神社に改称し、東京の守護神として「准勅祭社」「東京府社」に定められました。
明治７年（1874）には、はじめて東京に皇居をお定めになられた明治天皇が親しく御参拝になり御幣物を献じられました。
大正12年（1923）、未曾有の関東大震災により江戸時代後期を代表する社殿が焼失してしまいましたが、氏子崇敬者をはじめ東京の人々により、はやくも復興が計画され、昭和９年に当時としては画期的な鉄骨鉄筋コンクリート、総朱漆塗の社殿が再建されました。
昭和10年代後半より、日本は第二次世界大戦へと突入し東京は大空襲により一面焼け野原となってしまいました。当社の境内も多くの建造物がほとんど烏有に帰しましたが、耐火構造の社殿のみわずかな損傷のみで戦災を耐えぬきました。
戦後以降、結婚式場・明神会館など次々と境内の建造物が再建されていき、昭和51年に檜木造の隨神門が再建されるに及び、江戸時代に負けない神社の姿を取り戻しました。さらに「平成の御造替事業」が行なわれ、社殿の修復・塗替えや資料館の創建など境内整備が進められました。平成17年、神札授与所・参拝者控え所・休憩所を兼ね備えた鳳凰殿、氏子英霊をお祀りする祖霊社が建立されるなど、さらに境内整備が進められております。