In 1224 duikt de plaatsnaam Appingedam voor het eerst op in bronnen. De naam is het meest aannemelijk te verklaren als afgeleid van afdamming van de slenk de Appe of Apt. Over de oergeschiedenis is weinig bekend, een 16de-eeuwse kroniek beweert dat aan het einde van de 8ste eeuw een klooster bij de ‘Damme’ was gesticht. Er is geen bewijs van gevonden, maar omstreeks deze tijd kan de oorsprong van de nederzetting liggen. In de streek Fivelingo lag hier, op een kruispunt van waterwegen (de Fivel, de Delf – het latere Damsterdiep – de Groeve en de Heekt) en landwegen tussen de klei- en zandstreken (de latere Holwierderweg en Woldweg) een gunstige plek voor ontwikkelingen van handel en ambacht.
Aan het begin van de 13e eeuw was het een finke nederzetting. De oorspronkelijke Lieve Vrouwenkerk was vervangen door een nieuwe, de Nicolaikerk, die omstreeks 1260 een romano-gotische dwarsbeuk kreeg. De gemeenschap was welvarend genoeg om zich zo’n kerk te kunnen permitteren. In deze periode had Appingedam zich ontwikkeld tot de belangrijkste plaats van Fivelingo. Strijd tussen dit gewest en de stad Groningen had een aanleiding van religieuze aard, maar de economische bloei van Appingedam met zijn zeehaven speelde stellig mee.
De economische activiteiten konden vrij autonoom plaatsvinden, van landsheerlijk gezag was in deze uithoek nauwelijks sprake. Wel waren er onderlinge vetes van machtzoekers.
Met een dam in de Delf werden niet alleen overstromingen voorkomen en werd het zoute getijdenwater geweerd, maar kwam ook een oeververbinding tot stand, waardoor aan weerszijden van het water zich koop- en ambachtslieden, winkeliers en herbergiers konden vestigen om de scheepvaart te bedienen. De zeehaven had internationale betekenis. Appingedam lag met zijn in welvaart groeiende achterland gunstig voor handel met NoordDuitsland en Scandinavië. Er was veel handelsverkeer op Bremen en de Damster schippers hadden dankzij de Wezer Taxa van 1233 gratis passage over de Wezer. Ook kregen ze een tolvrije Sontpassage voor de vaart op Scandinavië voor elkaar.
In 1327 gaf de Buurbrief van de Upstalboom – waarin alle Friese gewesten waren verenigd –de nederzetting de zelfstandige bestuurlijke status als stad. Daarvoor regelden de bestuurders en rechters van Fivelingo alles.
De burgerij kon zo, net als de burgers van Groningen, zelf de gang van zaken bepalen.
Uit deze burgerij bekleedden de gegoeden en adel bij toerbeurt de ambten. De stad was daardoor tot bestuurlijk centrum van het noordoosten geworden. Met Groningen was Appingedam zo de enige uit de middeleeuwen stammende stad van de provincie. Op de wierde werd een Augustijner klooster gesticht, waardoor Appingedam bovendien een geestelijke centrumfunctie kreeg.
De concurrentie met Groningen, waar door het stapelrecht alle handel van Ommelander producten moest plaatsvinden, heeft de geschiedenis bepaald. Appingedam had aanvankelijk het voordeel zeestad te zijn, wat gunstig was voor handel en scheepvaart.
Dit belang nam af toen, om overstromingen te voorkomen, in 1317 bij de monding van de Eems sluizen in de Delf moesten worden gelegd. Overzeese handel bleef mogelijk, maar Delfzijl ontwikkelde zich toch geleidelijk tot een concurrerende havenstad.
Toen vanaf 1594 Stad en Ommelanden als één provincie deel gingen uitmaken van de Republiek was de bloeitijd van Appingedam al voorbij. Met lokale verzorgingsfuncties bleef de stad wel overeind, maar een rol van betekenis kon het niet meer spelen. Voor de rechtspraak van het arrondissement werd in de 19de eeuw wel voor Appingedam gekozen, tot 1876. Er werden veemarkten gehouden, onder meer een belangrijke paardenmarkt en een jaarlijkse harddraverij.
Aan het einde van de 19de eeuw veerde de economie op. In 1870 ging op initiatief van C. Roggenkamp de eerste stoomtimmerfabriek van Nederland draaien. Appingedam kon ook profteren van de aanleg van de spoorlijn Groningen-Delfzijl (1884), maar aan het acht jaar eerder gegraven Eemskanaal had de stad niet veel. Na de eeuwwisseling van 1900 zette de groei door. Jan Brons, begonnen in Wagenborgen, zette zijn motorenfabriek en ijzergieterij voort in Appingedam. Het snelgroeiende bedrijf zette de Bronsmotoren af over de hele wereld. De machinefabriek van Ter Borg en Mensinga, twee steen- en twee strokartonfabrieken, een zuivelfabriek, gasfabriek, glasfabriek en confectiefabriek boden aan velen werk.
Appingedam groeide, vooral met wijken en buurten met arbeiderswoningen. De bedrijvige opleving had in alle geledingen van de maatschappij positieve gevolgen; er kwamen nieuwe scholen en maatschappelijke en culturele voorzieningen. Na de Tweede Wereldoorlog is Appingedam vooral een plezierige woonstad geworden. De stad is zo sterk gegroeid dat de oude dorpen Solwerd en Opwierde aan de oostzijde en Tjamsweer aan de noordwestzijde bijna zijn opgeslokt.
Nadat de oude kern van de stad in 1972 tot beschermd stadsgezicht was verklaard, is de binnenstad aangepakt en komt het schilderachtige karakter weer ten volle uit. Daarin is het oude Damsterdiep nog steeds de levensader met ten noorden daarvan de Solwerderstraat met een indrukwekkende collectie monumentale panden van allerlei leeftijd en grote verscheidenheid. Daarvan zijn de 16de-eeuwse panden met de hangende keukens boven het diep bij de Vlinterbrug het bekendst. Westelijk afbuigend naar het noorden wordt de monumentaliteit voortgezet in de straat Gouden Pand. Aan de zuidzijde van het diep loopt de Dijkstraat, minder monumentaal maar wel een gezellige winkelstraat met aan de oostzijde een kanjer van een gereformeerde kerk. Deze is in 1927 in baksteenexpressionisme ontworpen door de befaamde architect Egbert Reitsma en ligt bij een even expressionistische brug over het Damsterdiep.
Weer even zuidelijker loopt de Wijkstraat die zich bij het oude bestuurlijke en religieuze centrum als een recent opgeknapte pleinenreeks verwijdt. Daar rijst met dwarsbeuk en kapellen de nogal complexe Nicolaikerk op, in een aantal bouwfasen tussen de 13de en 16e eeuw tot stand gekomen. De pastorie en de oude Franse School maken het geheel nog spannender. De toren staat er los en soeverein bij, al is hij pas van 1835. Tegen de noordzijde van de kerk is in 1635 het Raadhuis gebouwd, beneden ooit met waagfunctie en voorzien van een pronkgevel in maniëristische stijl. Aan de zijde van het Nieuwe Diep is het kerkhof tot plantsoen ingericht. Tegenover het koor staat de voormalige rechtbank die nu een horecafunctie heeft.