Bir Tek Kartta Bilgisayar üzerine Linux işletim sisteminin kurulması temelde bir Linux dağıtımı geliştiriminden farksızdır. Yani Red Hat, Debian vb. gibi Linux dağıtımlarının geliştirimi aşamasında yapılanlara benzer işlemlerin yapılması gereklidir. Fakat gömülü bir sistem geliştirirken çok kapsamlı bir kurulum programı hazırlamak gereksizdir, hemen her durumda ana sistem bir defa kurulur ve sonra bire bir kopyalama ve güncellemeler yoluyla yeni sistemler oluşturulur. Bütün mesele sistemi ilk başta kurabilmek ve sisteme hakim olabilmektir.

Linux üzerinde verimli çalışabilmek için sistemin işleyişi hakkında bilgi sahibi olunması gerekir. Sorunların büyük çoğunluğu sistem bileşenlerin seçimi ve kullanımından kaynaklanır. Sistem belirli bir kararlılığa ulaştıktan sonra sürekli sisteme müdahale gerekmeyecektir, ancak o aşamaya gelene kadar mutlaka ciddi çaba sarfedilmelidir.

Sistemin geliştirimine başlamadan önce kullanılan donanımın karakteristik özelliklerinin belirlenmesi ve buna göre sistemin tasarlanması gerekir. Küçük disk ve bellek hacmi bunların başında gelir. Ancak sistemin temel olarak yapacağı işlemlerin özellikleri ve sık kullanılan donanım bileşenlerinin kısıtlamaları birlikte düşünüldüğünde ek tasarım prensipleri de ortaya çıkacaktır.