Στα 11 έχασε τον δείκτη και τον αντίχειρα του αριστερού χεριού όταν εξερράγη χειροβομβίδα που είχε κλέψει με συμμαθητές του από αποθήκη πυρομαχικών. Σπούδασε μηχανικός και το 1956 παντρεύθηκε τη Ναΐνα Ιοσίφοβνα Γκιρίνα με την οποία απέκτησε δύο κόρες, την Ελένα και την Τατιάνα.
Οι ριζοσπαστικές ιδέες του δεν του επέτρεψαν να προσχωρήσει στο Κομμουνιστικό Κόμμα παρά μόνο όταν ήταν 30 ετών, το 1961, κατά την κορύφωση των αντισταλινικών μεταρρυθμίσεων του Νικίτα Χρουστσόφ.
Σύντομα ο νεαρός μηχανικός τοποθετήθηκε πρώτος γραμματέας μιας περιφερειακής κεντρικής επιτροπής και απέκτησε τη φήμη δραστήριου μεταρρυθμιστή. Το 1985, ο Μιχαήλ Γκορμπατσόφ, ο νέος γενικός γραμματέας του Κομμουνιστικού Κόμματος, κάλεσε τον Γέλτσιν στη Μόσχα ως γραμματέα της Κεντρικής Επιτροπής για την Οικοδόμηση. Εξι μήνες αργότερα ορίστηκε πρώτος γραμματέας της Κομματικής Επιτροπής της Πόλης της Μόσχας, θέση ανάλογη με εκείνη του δημάρχου.
Ο Γέλτσιν συντάχθηκε με θέρμη με τη μεταρρυθμιστική πτέρυγα της οποίας επικεφαλής ήταν ο Γκορμπατσόφ και επιτέθηκε στον εδραιωμένο κομματικό μηχανισμό. Συνέλαβε εκατοντάδες διεφθαρμένους αξιωματούχους και επιτέθηκε λεκτικά σε αρκετούς γραφειοκράτες της πρωτεύουσας. Επέκρινε επίσης τα προγράμματα της κρατικής τηλεόρασης και υπεραμύνθηκε της κατάργησης των ειδικών προνομίων των μελών του κόμματος, όπως της χρήσης ειδικών, ιδιωτικών καταστημάτων και αυτοκινήτων με οδηγό. Για να τονίσει την ανάγκη να γίνουν θυσίες, ο Γέλτσιν επέβαινε σε λεωφορεία και συζητούσε με τους επιβάτες· έκανε ξαφνικές επισκέψεις σε εργοστάσια και καταστήματα για να εντοπίσει τις ατέλειές τους· περιόρισε τη γραφειοκρατία για να φθάνουν εύκολα τα φρέσκα λαχανικά στις αγορές της πόλης· και ενθάρρυνε την καθιέρωση των υπαίθριων καφέ και των πάγκων που πωλούσαν φρούτα καθώς και τη διάσωση των ιστορικών κτιρίων.
Σκληρά εργαζόμενος και αδιάφθορος, ο τραχύς και δεσποτικός Γέλτσιν έκανε εχθρούς. Αυτό όμως που του προκάλεσε τα περισσότερα προβλήματα ήταν η ανυπομονησία του σχετικά με τον ρυθμό της μεταρρύθμισης της περεστρόικα του Γκορμπατσόφ.
Στις 21 Οκτωβρίου 1987 ο Γέλτσιν σόκαρε την Κεντρική Επιτροπή του Κομμουνιστικού Κόμματος όταν παραιτήθηκε από τη θέση του επειδή η οικονομική μεταρρύθμιση προχωρούσε υπερβολικά αργά. Επέκρινε σφοδρά το υπ' αριθμόν δύο στέλεχος στην ιεραρχία του κόμματος, κατηγορώντας τον ότι παρακώλυε τις προσπάθειές του να βελτιώσει τη ζωή των κατοίκων της Μόσχας. Το ξέσπασμά του προκάλεσε αντιδράσεις και μια επίπληξη από τον Γκορμπατσόφ. Ωστόσο η απομάκρυνση και η φίμωση του Γέλτσιν κατάφεραν ισχυρό πλήγμα στην περεστρόικα. Το κοινό άρχισε να εκφράζει αμφιβολίες για τη διάθεση του Γκορμπατσόφ να εισαγάγει μεταρρυθμίσεις εφόσον ο Γέλτσιν απλώς εφάρμοζε τα σχέδια του Γκορμπατσόφ για τη χώρα την εξάλειψη της διαφθοράς, τον περιορισμό της γραφειοκρατίας, τον εκσυγχρονισμό των υπηρεσιών και την αναδιοργάνωση της παραγωγής και της διανομής. Η μεγάλη λαϊκή απήχηση που είχε ο Γέλτσιν οδήγησε σε ένα πρωτοφανές ξέσπασμα διαδηλώσεων.
Ο κρατικός Τύπος αγνόησε τον εικονοκλαστικό λόγο του Γέλτσιν και αντ' αυτού δημοσίευσε την απολογία του. Σύντομα όμως ο Γέλτσιν έδωσε εμπρηστικές συνεντεύξεις στον διεθνή Τύπο. Στις επόμενες βουλευτικές εκλογές ο Γέλτσιν έθεσε υποψηφιότητα και έλαβε πολύ μεγάλο ποσοστό.
Το 1990, ο Γέλτσιν παραιτήθηκε από το κόμμα αφού εξελέγη πρόεδρος του Ανώτατου Σοβιέτ της Ρωσικής Ομοσπονδιακής Σοσιαλιστικής Δημοκρατίας. Στις 12 Ιουνίου 1991 έγινε ο πρώτος εκλεγμένος πρόεδρος της Ρωσικής Ομοσπονδίας και σε λιγότερο από έναν χρόνο επέβλεψε τη διάσπαση της Σοβιετικής Ενωσης σε ανεξάρτητα κράτη. Βοήθησε στη σύσταση της Κοινοπολιτείας Ανεξαρτήτων Κρατών στις 8 Δεκεμβρίου 1991, βάζοντας τέλος στις προσπάθειες να διατηρηθεί η ΕΣΣΔ.
Ως ηγέτης της νέας ανεξάρτητης Ρωσίας, ο Γέλτσιν αντιμετώπισε μια σειρά προβλημάτων. Η προσωπική δημοτικότητά του μειώθηκε κατά πολύ όταν εισήγαγε ένα ριζοσπαστικό μεταρρυθμιστικό σχέδιο που αποσκοπούσε να προσανατολίσει τη Ρωσία προς την οικονομία της αγοράς. Τον Δεκέμβριο του 1994 ο Γέλτσιν έστειλε ρωσικά στρατεύμα