В сентябре 1935 года в Киле была сформирована первая организационная структура будущего подводного флота Кригсмарине - 1-я флотилия подводных лодок "Веддиген", первоначально включавшая в себя подводные лодки U-7, U-8 и U-9. Вторая флотилия, "Зальцведель", обосновалась на Северном море в Вильгельмсхафене в сентябре 1936 года, затем в Киле возникли флотилии "Лос" , "Эмсманн" и "Вегенер", а также флотилия "Хундиус" - в Вильгельмсхафене.

В организационном плане флотилия являлась основополагающим формированием в Кригсмарине и имела жесткую командную структуру. Число подлодок, входивших в состав флотилий, не было постоянным, поскольку командование могло переводить лодки из одной флотилии в другую. Управление действиями подводных лодок в ходе боевых операций осуществлялось командующими оперативными группами подводного флота Фюрер дер Унтерзееботе, относившимися к различным театрам военных действий, а в особых случаях и самим командующим подводным флотом Бефельсхабер дер Унтерзееботе.

Подводный флот Кригсмарине насчитывал 31 боевую и учебную флотилию:

• 1 флотилия "Веддиген" - Брест (первоначально Киль);
• 2 флотилия "Зальцведель" - Лорьян (первоначально Вильгельмсхафен);
• 3 флотилия "Лос" - Ла-Паллис (первоначально Киль);
• 4 флотилия - Штеттин (учебная флотилия);
• 5 флотилия "Эмсманн" - Киль;
• 5 флотилия - Киль (учебная флотилия);
• 6 флотилия "Хундиус" - Сен-Назер (первоначально Данциг);
• 7 флотилия "Вегенер" - Сен-Назер (первоначально Киль);
• 8 флотилия - Данциг (учебная флотилия);
• 9 флотилия - Брест;
• 10 флотилия - Лорьян;
• 11 флотилия - Берген;
• 12 флотилия - Бордо;
• 13 флотилия - Тронхейм;
• 14 флотилия - Нарвик;
• 18 флотилия - Хель (учебная флотилия);
• 19 флотилия - Пиллау (учебная флотилия);
• 20 флотилия - Пиллау (учебная флотилия);
• 21 флотилия - Пиллау (учебная флотилия);
• 22 флотилия - Готенхафен (учебная флотилия);
• 23 флотилия - Саламин;
• 23 флотилия - Данциг (учебная флотилия);
• 24 флотилия - Мемель (учебная флотилия);
• 25 флотилия - Либава (Лиепая) (учебная флотилия);
• 26 флотилия - Пиллау (учебная флотилия);
• 27 флотилия - Готенхафен (учебная флотилия);
• 29 флотилия - Специя;
• 30 флотилия - Констанца;
• 31 флотилия - Гамбург (учебная флотилия);
• 32 флотилия - Кенигсберг (учебная флотилия);
• 33 флотилия - Фленсбург.