Stephen Gregory Bier est né un 6 mars en Floride. Comme son père était juif, Stephen passa son enfance dans un home juif. Il souffre depuis tout petit d'hyperactivité, et a arrêté de se soigner maintenant, ce qui explique son habitude de se balancer sur place et de danser comme un fou en concert. Plus âgé, il fait des études d'architecture et d'informatique dans une université en Floride.
Un jour, Marilyn Manson se rendait à un club avec Olivia Newton Bundy, son ancien bassiste. Au fur et à mesure qu'ils parlaient, ils aperçurent un drôle de type, blond qui fumait ; il souriait. Manson, pensant que ce sourire lui était adressé, s'approcha de lui. L'étrange personnage ne daigna même pas tourner la tête ; il souriait aux anges. Un jour ou Brian Warner lisait ses poèmes dans les bars, il a rencontré ce type à nouveau. Finalement, ils firent connaissance et ils ont parlé musique ; le drôle de type se nommait Stephen Gregory Bier et il lui dit qu'il emmerdait ceux qui l'appelaient "Steve". Manson réussit à le convaincre de jouer dans son groupe, comme il était à la recherche d'un remplacant pour leur claviste Zsa Zsa Speck à condition qu'ils trouvent assez d'argent pour lui payer un synthétiseur.Cependant, lui trouver une place dans ce nouveau groupe dût être une tâche assez difficile car Stephen ne savait seulement jouer qu'un peu de batterie et que la mode de la scène industrielle de l'époque recommandait l'usage de boite à rythmes ; c'est ainsi qu'il dut apprendre à jouer d'un autre instrument. Warner cherchait un clavier, Stephen apprendra donc le clavier. Il a vite et bien appris le clavier...c'est lui qui a introduit au sein du groupe les doctrines de la numérologie et la cabale juive. Son apport au son du groupe est de toute première importance, car il est fort probable que sans ses atmosphères ténébreuses et inquiétantes, "Marilyn Manson" aurait un son semblable à beaucoup d'autres groupes de métal. Cependant comme il n'avait pas encore d'instrument à cette époque il passait les premiers concerts à jouer avec des soldats en plastique sur la scène, pendant que Zsa Zsa Speck s'occupait du synthé. Dès que Bier eu son propre clavier, Zsa Zsa fut renvoyé.
Pour son nom de scène, on juxtaposa comme d'habitude un prénom de star avec le nom de famille d'un tueur en série. Ici, ce fut Madonna, la chanteuse-actrice, et John Wayne Gacy, tueur en série exécuté par injection pour le meurtre de 33 enfants, connu aussi sous le nom de "Pogo the clown", pseudonyme qu'il utilisait quand il animait des fêtes d'anniversaires et allait rendre visite aux enfants malades dans les hôpitaux, avant de les torturer à mort.
N'appréciant guère le nom de scène que lui attribua Manson, Stephen se surnomma tout simplement "Pogo".
Pogo apprit vite à jouer et prit bien sa place au sein du groupe grâce à son caractère et son humour très sombre. Dès ses premiers concerts, Pogo a su exprimer un véritable sens du spectacle, il jouait dans son coin, avec un écriteau "pogo's playhouse", tout en réalisant un spectacle dans le spectacle il a d'ailleurs gardé cette habitude jusqu'à maintenant. En plus il a toujours eu un sacré look et surtout une façon incroyable de danser avec son clavier pendant qu'il joue ... Une rumeur court comme quoi le concert au Squeeze à Fort Lauderdale enregistré en 90/91 disponible sur la face B de la seconde partie de la double cassette audio pirate "Hate" serait le premier concert de Pogo en tant que Spooky Kid, mais rien n'a été prouvé. Les cheveux rasés, une barbichette noire, un air qui ne dit rien de bon, des marionnettes aux mains : c'est comme cela que Pogo apparaît dans le livret du premier album de Marilyn Manson, "Portrait of an american family". Sur le plan musical, on sent bien la présence de Pogo, caractérisant le "son Marilyn Manson", et donnant de la puissance à des très bonnes chansons comme "My Monkey" avec son synthétiseur maladif. Ils entament une tournée avec Nine Inch Nails. Dans les cassettes vidéo de concerts, durant la chanson "Cake and sodomy", on peut y voir Pogo accompagner Sara (et plus tard Ginger) à la batterie. L'influence musicale de Pogo est visible surtout dans l'EP "Smells Like Children", où il est responsable avec Ginger Fish des nouveaux sons électroniques et de l'ambiance très sombre, il a toujours une place au niveau conception sonore du groupe.
Il est un des seuls membres à être depuis aussi longtemps dans le groupe, et il a vécu un grand nombre d'expériences mémorables (et dangereuses) avec Manson. Pogo est sûrement le moins net du groupe ; il a voulu aider Manson à éliminer son ex-copine Nancy ; en effet Nancy, l'ancienne copine de Manson devenait, selon lui, trop envahissante et risquerait d'empièter sur sa carrière. Il ne restait plus qu'une seule solution : en finir définitivement avec elle. Donc, il fit appel à Pogo, car ce dernier était un pro pour ce qui est le meurtre ; Manson lui demanda des renseignements concernant la façon de la tuer et la disposition du corps. Un soir, nos deux compères se rendent au bar où ils vont beaucoup boire pour le courages et ensuite se dirigent vers la maison de Nancy, projettent d'y mettre le feu. Mais malheureusement, ils s'enfuirent en entendant les sirènes des pompiers. Découragés, ils abandonnèrent. La majorité des virées de Manson et de Twiggy se faisaient d'ailleurs avec Pogo, et lorsque Berkowitz fut viré du groupe en 1996, il resta le seul Spooky Kid avec Manson encore en action. Son apparent détachement quant à la paternité du groupe lui a sûrement évité d'être expulsé par Manson. Une des anecdotes les plus connues de Marilyn Manson est la fameuse histoire de la "Meat Girl". Nous apprenons avec cette histoire que le fantasme principal de Pogo est d'"enculer une fille sourde", de façon à ce qu'il puisse hurler toutes les insanités inimaginables sans qu'elle puisse l'entendre. Son rêve devint réalité quand Manson amena Alyssa au studio à Miami où le groupe enregistrait la face B du single "Lunchbox". Après l'avoir recouverte entièrement de viande, Pogo la sodomisa en hurlant tout ce qui lui passa par la tête, dont la célèbre phrase "Je vais détruire tes canaux auditifs inutiles". Alyssa raconte d'ailleurs ce moment intense dans tous les détails dans la cassette documentaire "Demistifying the devil".
Même si le style de Pogo a évolué au fur et à mesure du temps, il est toujours resté très décalé, ce qui lui a permis de rester une figure de proue du groupe pendant les différentes étapes de son évolution. Dans l'autobiographie (page 220), Pogo est décrit comme étant un génie trop fou pour utiliser son intelligence dans une voie constructive. Il serait capable de boire sa propre urine si on le défiait, mais il tomberait mortellement malade si quelqu'un faisait quelque chose aussi insignifiant que mettre de la mayonnaise dans sa nourriture ...
