Brendan débute dans le monde de la musique en tant que guitariste dans un petit groupe de reprises d'Atlanta du nom de Pranks. Vers la fins des '70s, il écrit, joue et enregistre avec le groupe Samurai Catfish. Dans les années 80, il joue en studio avec divers groupes locaux, tels que les Indigo Girls, les Downtown Executives, et joue de la basse avec The Georgia Satellites pour une courte période. Il joue de la guitare sur l'album de 1989 de l'Atlanta Rhythm Section, "Truth in a Structured Form". Sa carrrière studio est propulsée par le succès du premier album de Black Crowes, "Shake Your Money Maker", dont il assure la conception, joue de la basse et de la guitare.

Au cours de sa vie avec sa femme Robin et ses trois filles Jackie, Allie et Hannah, O'Brien quitte sa maison d'Atlanta au début de l'année 19990 pour poursuivre sa carrière à Los Angeles. Il commence à travailler chez Geffen Records sous la houlette de Rick Rubin, producteur de groupes comme Stone Temple Pilots et Pearl Jam. O'Brien retourne à Atlanta in 1991.

Dans le milieu des '90s, O'Brien devient vice président d'Epic Records et de Epic imprint 57 Records. En 1995 il rejoint Pearl Jam et Neil Young au clavier pour le Mirror Ball tour à travers l'Europe.

En 2002, il gagne un Grammy Award dans la catégorie Best Rock Album pour son travaille sur l'album "The Rising" de Bruce Springsteen. En 2009, il reçoit le Grammy Award du Producteur de l'Année. A cette date, 14 des albums produit par O'Brien ont été #1 aux Etat-Unis d'Amérique au Billboard Hot 200 Charts.