Най-дълго управлявалият директор на Федералното бюро за разследване оставя собствена следа в историята на САЩ
През 1917 г. Хувър започва работа като чиновник в архивите на Министерството на правосъдието. През 1919 г. е назначен за специален помощник на главния прокурор.

След като завършва образованието си, Хувър започва работа като чиновник в Министерството на правосъдието. През 1917 г. САЩ влизат в Първата световна война и с това започва кариерата му на ловец на вътрешни врагове. Безпокойството, свързано с подривната дейност на чужденците в САЩ, бързо превръща Бюрото за разследване от най-обикновена служба до този момент в мощна организация. Хувър е назначен за ръководител на важния отдел - регистрация на гражданите от враждебните държави. Към страха от война се прибавя паниката от разпространението на болшевишката революция от Русия в света. И Хувър бързо превключва на тази вълна.
Главният прокурор Мичъл Палмър повежда кръстоносния поход срещу „червената заплаха” и създава отдел за общо разузнаване към Бюрото за разследване. Той назначава Хувър за свой специален помощник. Скоро Хувър съставя над 200 000 досиета на хора и организации. Той арестува над 200 членове на профсъюза на руските работници, виждайки в тази организация „пропагандатор на атеизма, аморалността и насилието”.
През май 1924 г. Хувър е назначен за изпълнителен директор на Бюрото за разследване, а през декември 1924 г. става директор, като наблюдава и насочва действията на една организация, която се превръща в национална полицейска сила. Под ръководството на Хувър работят 441 „специални агенти” в големите градове.

Работата на ведомството нараства изключително много през 1933 г., когато в състава му е включено и подразделението за контрол на изпълнението на „сухия режим” - създадено специално от Министерството на правосъдието да оказва помощ за реализирането на поправката на конституцията за забрана на продажбата и разпространението на алкохол.
С утихването на „червената опасност” и изместването на акцента от подривната дейност към углавната престъпност, Хувър реагира веднага и пренасочва вниманието си от революционерите към бандитите. По времето на президента Франклин Рузвелт бюрото отначало е преобразувано в Управление за разследване, а през юли 1935 г. вече е Федерално бюро за разследване.
През 30-те години, агенцията играе важна роля за арестуването на множество известни престъпници, извършители на отвличания, обири и убийства. Сред тях са били Джон Дилинджър, Нелсон „Бейбифейс”, Кейт „Ма” Баркър и Джон „Автоматичното оръжие” Кели. Също така изиграва решителна роля в намаляването размаха и влиянието на „Ку Клукс Клан”.

През следващите десетилетия безкрайната амбиция на Хувър превръща бюрото в армия. Той извоюва разширение на юрисдикцията на бюрото - по-голямата част от гангстерските дела са извадени изпод контрола на ненадеждните щатски полиции. Агентите получават право да носят и използват оръжие, създават се криминоложки лаборатории, бази данни с пръстови отпечатъци... Най-забележителното обаче е настояването му служителите да са лоялни лично нему.
Те не се отчитат на главния прокурор или на президента, а единствено на Дж. Едгар Хувър. Оказва се, че да си назначен на ключов пост във Вашингтон е по-важно от това да си избран от народа. Нещо повече - Хувър упорито изгражда мистичен ореол около себе си, че е несменяем, че ако някой го пипне, ще е по-зле, отколкото да го остави. Изпреварил времето си, той е истински крал на PR-а далеч преди да се роди това понятие. Хувър диктува не само на пресата, но и на Холивуд как да се изобразяват гангстерите и агентите, кое е престъпление и кое - наказание, и дори кой актьор е подходящ и кой не.
През годините на Втората световна война сферата на дейността и съответно - влиянието на ФБР, се разраства. Заплахата от шпионаж и саботаж дава възможност на агентите на Хувър да следят за различни хора, включително високопоставени чиновници на Белия дом и даже първата дама Елинор Рузвелт. Държавната тайна оправдава тези действия, броят на сътрудниците на ФБР надминава 13 000, секретните досиета набъбват, а във времената на маккартизма това прераства в истинска политическа вакханалия. Когато 20 години по-късно президент става Джон Кенеди, Хувър за пръв път е уплашен, че ще го уволнят. Но умението му да блъфира го спасява - Кенеди не знае какво знае Хувър.

Шефът на ФБР е на напълно отдаден на работата си и приема лично всеки отказ за сътрудничество или дори за контакт.
Този подход е прилаган към безброй политици, интелектуалци и обикновени американци до степен името на Хувър и до днес да предизвиква противоречиви емоции. През 2001 г. в Сената бе предложено да бъде махнато името му от централата на ФБР, кръстена на него. Предложението бе отхвърлено.
През целия си живот Едгар Хувър е заклет ерген и някъде от 1940 година за него започват да циркулират слухове, че е хомосексуален, но досега не са открити сериозни доказателства за това. Предполага се, че в основата на тези слухове стои дългогодишното му приятелство с помощник-директора на ФБР Клайд Толсън, който, също, се явява наследник по завещание на Хувър.

Хувър описва Клайд Толсън, като неговото „второ аз“: двамата мъже не само работят заедно през деня, но също така вечерят заедно, ходят в нощни клубове заедно и прекарват отпуската си заедно. Извънредно близките взаимоотношения между двамата често са сочени като доказателство, че те са любовници, въпреки че някои служители на ФБР, които ги познават, казват, че отношенията им са по-скоро братски. Федерални агенти съобщават също, че Толсън е докарван първи и откарван последен от колата, която е превозвала Хувър до неговия офис и обратно.

След смъртта на Хувър, Толсън по завещание наследява неговото имущество на стойност приблизително $551 000 и се премества да живее в неговата къща, като също приема американското знаме, с което е погребан Хувър. След смъртта си Толсън е погребан близо до гроба на Хувър в Конгресното гробище.
