O Conselho Federal é a representação dos Estados, uma espécie de segunda câmara ao lado do Parlamento Federal. Ele é obrigado a examinar todas as leis federais. Como conselho dos Estados tem a mesma função que uma segunda câmara em outras federações, denominada normalmente de senado. É formado exclusivamente por membros dos governos estaduais. O peso dos votos dos Estados corresponde de forma bem moderada à população dos mesmos: cada Estado tem no mínimo três, os Estados com maior número de habitantes até seis votos.
O Conselho Federal participa da elaboração das leis federais. Nesse aspecto, diferencia-se da segunda câmara de outras federações. A Lei Fundamental prevê duas formas de participação. As leis federais que produzem custos administrativos adicionais para os Estados ou que substituem outras leis estaduais necessitam da aprovação do Conselho Federal: é imprescindível que o Conselho Federal sancione uma lei do Parlamento Federal para que esta produza efeito. Nesse caso o Conselho Federal tem o status de um órgão legislativo com direitos iguais aos do Parlamento Federal. Atualmente, quase 50 por cento de todas as leis aprovadas pelo Bundestag necessitam da aprovação do Conselho Federal. Como as leis federais são fundamentalmente aplicadas pelas administrações estaduais, as leis mais importantes e de maior custo intervêm na soberania administrativa dos Estados. Existe uma diferença entres essas leis e as “leis de recurso”. Elas podem ser rejeitadas pelo Conselho Federal, mas o Parlamento Federal pode rejeitar o recurso com a mesma maioria do Conselho Federal ou com dois terços da maioria dos representantes parlamentares (maioria absoluta).
A partir de setembro de 2006, a Reforma do Federalismo fez uma nova atribuição das competências dos Estados e da União. O objetivo da reforma é melhorar as capacidades de ação e decisão da União e dos Estados e reestruturar mais especificamente suas responsabilidades políticas.