Historie Arsenalu se začala psát na konci 19. století v jedné z tehdejších londýnských fabrik. Zaměstnanci továrny Woolwich Arsenal Armanent Factory založili fotbalový klub Dial Square. Název připomínal nápis nad slunečními hodinami, které byly nad vchodem do továrny.

První utkání sehrál tým Dial Square 11. prosince 1886 s Eastern Wanderers, které deklasoval 6:0. Londýnský celek posílili hráči Nottinghamu Forest, podle něhož Arsenal dodnes obléká červené dresy. Brzy poté byl klub přejmenován na Royal Arsenal. Jelikož nebyl zapsán ani zaregistrován v soutěži, neustále pořádal pouze přátelská klání. V roce 1891 zaznamenal další změnu názvu, tentokrát na Woolwich Arsenal. V totožném roce se stal profesionálním klubem.

Do ligy se Arsenal připojil až v roce 1893. V roce 1913 začal Woolwich Arsenal svá domácí utkání hrát na stadionu Highbury, který byl pojmenován podle své lokace v Londýně. V dalších letech probíhala první světová válka a fotbal se nehrál. Vrátil se až po jejím ukončení a v tehdejší lize bylo 22 týmů. 30. léta 20. století patřila Arsenalu, jelikož v nich získal pět titulů.

V roce 1931 nastoupil na místo manažera Herbert Chapman, který dal klubu naprosto novou tvář. Další tituly přišly v následujících letech, od roku 1938 klub vybojoval čtyři ligová prvenství. Mezi roky 1933 a 1935 získal Arsenal tři ligové primáty v řadě. Ve zmiňovaných 30. letech se Arsenal dostal třikrát do finále FA Cupu a dvakrát jej vyhrál. Jedna z klíčových postav v historii klubu Herbert Chapman v roce 1934 zemřel.

V období druhé světově války se fotbal sedm let v Anglii nehrál. Druhou sezonu po konfliktu „Kanonýři“ znovu vyhráli ligu. Následoval ligový primát z roku 1953 a finále FA Cupu v letech 1950 a 1952. V 60. letech však nastalo trápení, po němž se vrátily úspěchy. V roce 1968 a 1969 se totiž klub probojoval do finále Ligového poháru, ale obě utkání prohrál. Následovalo další desetiletí, které bylo mnohem lepší. „Gunners“ totiž získali double vítězstvím v lize a v FA Cupu.

A postavení v evropských pohárech? Na ty došlo až v roce 1970, kdy Arsenal vyhrál Fairs Cup. Na další větší úspěch se čekalo devět let – „Gunners“ tehdy brali FA Cup, když ve finále překonali Manchester United 3:2, rok nato se konečně probojovali do finále Poháru vítězů pohárů, v němž však s Valencií prohráli na pokutové kopy.

V roce 1987 vyhrál Arsenal poprvé v historii Ligový pohár. V roce 1989 si severolondýnský výběr zajistil památné vítězství v lize, když se Michael Thomas legendárně trefil v poslední minutě posledního zápasu sezóny na půdě Liverpoolu, čímž doslova vytrhl „Reds“ titul z rukou. V roce 1991 se znovu tým zvedal a opět vyhrál ligu. O dva roky později Arsenal získal Ligový pohár i FA Cup. Největší úspěch těch dob ale přišel až v roce 1994 – tehdy se klub probojoval do finále Poháru vítězů pohárů (dnes Evropská liga), kde porazil Parmu 1:0.

V roce 1996 odešel manažer Bruce Rioch a vlády se na severu Londýna ujal Arsene Wenger. Fanoušci jej zpočátku neměli v oblibě kvůli francouzské národnosti. Krátce po příchodu do Arsenalu přivedl rodák ze Štrasburku Patricka Vieiru za přibližně čtyři miliony liber z AC Milán. Ve své první sezoně Arsene Wenger s klubem nic nevyhrál. Přišla ale sezona 1997/98 a s ní i další double. Posléze jeho tým opustil tehdy nejlepší střelec v historii Ian Wright (185 branek) a Wenger se musel poohlédnout po náhradě.

V roce 1999 nakonec přivedl Thierryho Henryho. V nadcházející sezoně se Arsenal dostal do finále Poháru UEFA (dnes Evropská liga), kde proti Galatasarayi neuspěl v penaltovém rozstřelu. Sezonu poté skončil tým Arsena Wengera druhý jak v lize, tak i v FA Cupu, nicméně v roce 2002 slavil s týmem další double. Vyhrál Premier League a zárověň i FA Cup. Wenger byl vyhlášen nejlepším manažerem a Robert Pires hráčem roku.

Další sezonu se stal Arsenal prvním anglickým klubem, který obhájil FA Cup. Hráčem sezony se po Piresovi stal další Francouz – Thierry Henry. V ročníku 2003/04 prošli „Kanonýři“ soutěžním ročníkem Premier League bez jediné porážky a titul putoval znovu na Highbury. O rok později si připsali vítězství FA Cupu, kdy v penaltovém rozstřelu skalpovali Manchester United. Anglický pohár ze sezony 2004/05 je poslední trofejí v klubové síni slávy.

V roce 2006 se Wengerova družina poprvé probojovala do finále Ligy mistrů. V Paříži však katalánské Barceloně podlehla 1:2. V létě roku 2007 z Arsenalu odešla jedna z největších legend klubové historie. Thierry Henry zamířil právě do Barcelony. Francouzský útočník za sebou v Londýně zanechal nesmazatelnou stopu – 226 nastřílených branek, rekordní počet v rámci celku ze severu britské metropole.

Po angažmá v Barceloně přestoupil Henry do New York Red Bulls, odkud během zimní pauzy pravidelně přilétá trénovat s Arsenalem. 6. ledna 2012 se „Kanonýrům“ dokonce upsal na měsíční hostování. Svůj návrat na sever Londýna oslavil hned ve svém úvodním startu z lavičky náhradníků gólem, když na Emirates Stadium vstřelil vítěznou branku v klání 3. kola FA Cupu proti Leedsu.

11. února 2012 při své derniéře v červeno-bílém dresu zařídil Henry Arsenalu tři body z půdy Sunderlandu. Ne nadarmo stojí před šedesátitisícovým stánkem „Gunners“ socha s jeho podobiznou.