FBI由美国司法部长查尔斯．波拿巴 （Charles Bonaparte）所创立，他是拿破仑弟弟热罗姆的孙子。FBI早期的任务只有20多项，包括：联邦犯罪调查、白领犯罪，国家安全工作等等。
不过，随着两次世界大战爆发导致的国家安全危机，国会不断扩大FBI的管辖权，造就了FBI今日的规模。
一百年来，美国不仅经历了两次世界大战，还遭逢1930年代的经济大萧条，以及犯罪狂潮淹没美国的年代。FBI探员陆续把艾尔卡彭、狄林杰等恶名昭彰的帮派首脑绳之以法，成为传奇性的美国打击犯罪机构。
二次大战期间，FBI从拥有几百名探员和线民，激增到将近1万3000人，对于稳定国内安全发挥了重大功能，包括阻止8名德国纳粹分子潜入美国进行破坏。
之后，FBI陆续逮捕杀害民权分子的三K党成员、侦破奥克拉荷马市炸弹攻击案、逮捕1993年纽约世贸中心炸弹攻击事件的主谋。 FBI的战功彪炳除了为它平添传奇的色彩，也让它成为媒体的宠儿，电视和电影不断以FBI干员为主角。例如电影"沉默的羔羊"和电视剧"X档案"，后者1993年在电视首演，后来还改编成电影，续集"X档案：我要相信"将于下周在台上映。
FBI还有一项傲人的成绩，在1950年代开始推出"十大通缉要犯"。这些年来上榜的400多名罪犯，有95%被捕，目前的头号通缉要犯就是凯达组织首脑宾拉丹。
只不过，宾拉丹并非在2001年911事件后才被列为头号通缉犯，早在1998年非洲肯亚和坦尚尼亚的美国大使馆遭到炸弹攻击后，宾拉丹就已经上榜。换句话说，他已逍遥法外长达十年。2005年，美国司法部的报告，斥责FBI应该为无法事先侦测及预防911事件负责。
FBI不是万能，除了宾拉丹让FBI招牌蒙尘，1971年感恩节前夕的劫机事件也让FBI颜面扫地。当时一名叫做库伯（Dan Cooper）的男子以炸弹挟持了一架飞往西雅图的飞机，飞机降落时，库伯以释放乘客换得20万美元和4个降落伞，并要求继续飞往墨西哥。
FBI虽然采取行动反制，但库伯在飞往墨西哥途中，从俄勒冈州上空带着赎款跳伞，从此音讯全无，成为FBI探员心中多年来的不解之谜。
美国联邦调查局走过一世纪，将近半世纪（48年）都是一人独揽大权，就是已故局长胡佛（J. Edgar Hoover）。
FBI成立于1908年，老罗斯福总统在任期间，当时只是美国司法部的一个调查小组，原名"调查局"，规模很小，一直到1924年胡佛上任才越来越上轨道，日益壮大，1935年改称"联邦调查局"。
胡佛掌管FBI的48年期间，美国总共换了8位总统，包括小罗斯福、甘迺迪和詹森，或多或少都和胡佛有过冲突，但他就是有办法挺了过来。
没有谁敢叫他走人，因为没人知道胡佛究竟握有自己哪些见不得人的把柄，胡佛因此被戏称为美国的"地下总统"。他对甘迺迪兄弟与玛丽莲梦露绯闻的监控，拿来当作护身符的传闻，更是声名狼藉。
FBI虽然在胡佛的主导下渐渐成熟、壮大，不过为达目不择手段的做法，也让他饱受批评。例如，在1950和1960年代，FBI以追查共党分子及同路人为名，渗透包括反越战在内的民间团体，试图掌握异议组织及人士的动向。不仅无辜老百姓被跟监，连总统都遭到监听。
