Le texte de leurs chansons traduit un fort engagement politique, marqué à l'extrême gauche, contre le fascisme et les violences policières, et en faveur de la classe ouvrière et de l'IRA. Musicalement, le groupe a été très influencé par des groupes tels que les Clash ou les Sex Pistols. Le nom Angelic Upstarts viendrait d'un titre de journal où figuraient des jeunes qui avaient fait du tapage.
Le premier single d'Angelic Upstarts, Murder Of Liddle Towers, a pour sujet un homme emprisonné qui se fait battre à mort par des policiers, incident qui sera classé homicide involontaire. Afin de pousser plus loin la provocation, la chanson était jouée avec la présence sur scène d'une tête de cochon coiffée d'un casque de policier. Suite à cela, les autorités proclamèrent que les paroles de la chanson ainsi que la mise en scène étaient de possibles infractions contre la loi, pour obscénité et incitation à la violence. Angelic Upstarts se vit par ailleurs, et de manière officieuse, empêché de jouer dans tout le nord-est de l'Angleterre, en plus d'être continuellement harassé. Ces mesures n'eurent cependant pas l'effet escompté.
Le groupe attira également l'attention de Jimmy Pursey, du groupe Sham 69. Celui-ci les invita à participer à sa tournée et leur permit même de signer un contrat avec la compagnie Warner Brothers. Teenage Warning, qui, à l'instar de celui qui le suivra, ridiculisait avec force la politique de Margaret Thatcher, tout en soutenant la classe ouvrière.

Ils étaient devenus les ennemis des partisans du British National Front, qui avaient d'abord interprété leurs chansons de gauche comme supportant leur cause. Comme le fit The Clash, Angelic Upstarts intégra progressivement à sa musique des styles différents, tels que le reggae ou le folk.
Puis, le groupe lança le single Brighton Bomb, célébration de la tentative de l'IRA d'assassiner le cabinet conservateur.