از زمانهای بسیار دور بنای سدهای خاکی به منظور کنترل و ذخیره آب معمول بوده است. اما به علت امکانات محدوده و عدم شناخت قوانین مکانیک خاک و هیدرولیک، ارتفاع سدها و بندهای خاکی از یک مقدار محدودی بیشتر نمی شده است، هرچند از نظر وسعت و طول سد چنین محدودیتی وجود نداشته است. امروزه با پیشرفت علم مکانیک خاک و توسعه امکانات تکنولوژی و مطالعات دقیق تر توانسته اند سدهای خاکی را با ارتفاعات قابل ملاحظه احداث نمایند، بطوریکه در زمان حاضر از مرتفع ترین سدهای دنیا سدهای خاکی و پاره سنگی هستند. به علاوه زمین هائی را که سابقاً برای این منظور غیر مناسب تشخیص می دادند هم اکنون می توانند آنها را برای زیربنای احداث سد خاکی آماده سازند.
علی رغم این پیشرفت ها هنوز مشکل است که بتوان راه حل های ریاضی محکمی برای مسایل طراحی سدهای خاکی پیشنهاد نمود، و در نتیجه بسیاری از اجزاء سدها هنوز بر مبنای تجزیه و ذوق و ذکاوت مهندسین طرح و اجراءٍ می گردند، به عبارت دیگر طرح تیپ دقیق و کامل وجود ندارد.
به منظور تأمین یک طرح دقیق و منطقی در سدهای خاکی لازمست که وضعیت شالوده سد و مواد مشکله آن کاملاً مورد بررسی و مطالعه اولیه قرار گرفته و اجرای سد با روش های کنترل شده و دقیقاً مطابق برنامه پیشنهادی طراح انجام پذیرد.
به عنوان یک اصل، این دو نکته مسلم است که:
1- سد به عنوان یک مخزن باید غیرقابل نفوذ باشد.
2- در تمام وضعیت های ممکن (وضعیت بلافاصله پس از ساخت، ضمن ساخت، وضعیت های مخزن پر، طغیان، تخلیه سریع، بارندگی و حتی در مواقع سیلهای استثنائی چند هزار ساله) سد باید مقاوم باشد.
روش ایجاد سدهای خاکی امروزه عمدتاً با روش تراکم مکانیکی است، هرچند روشهای دیگری مانند روش های هیدرولیکی و نیمه هیدرولیکی هم وجود دارد که از این روشها کمتر استفاده می گردد، مگر در مورد سدهای باطله که ضرورتاًِ هیدرولیکی است.
بخش اصلی سد خاکی که توده خاکی کوبیده شده است (در حقیقت سازه سد) به نام بدنه سد نامیده می شود، و زمینی که سد بر روی آن قرار گرفته تا آن حد که تحت تأثیر فشار حاصل از سد و نفوذ پذیری آب سد می باشد به نام شالوده (فونداسیون) است. به جز این دو بخش اصلی، اجزاء دیگری از قبیل آب بندها، زهکش ها، پوشش ها و غیره وجود دارد که اهمیت آنها به لحاظ حفاظت و ایمنی و عملکرد سد برای آن نقش حیاتی دارند.