嵌入式计算机的真正发展是在微处理器问世之后。

1971年11月，算术运算器和控制器电路成功的被集成在一起，推出了第一款微处理器，其后各厂家陆续推出了8位、16位微处理器。以这些微处理器为核心所构成的系统广泛地应用于仪器仪表、医疗设备、机器人、家用电器等领域。

微处理器的广泛应用形成了一个广阔的嵌入式应用市场，计算机厂家开始大量地以插件方式向用户提供OEM产品，再由用户根据自己的需要选择一套适合的CPU板、存储器板及各式I/O插件板，从而构成专用的嵌入式计算机系统，并将其嵌入自己的系统设备中。

20世纪80年代，随着微电子工艺水平的提高，集成电路制造商开始把嵌入式计算机应用中所需要的微处理器、I/O接口、A/D转换器、D/A转换器、串行接口，以及RAM、ROM等部件全部集成到一个VLSI中，从而制造出面向I/O设计的微控制器，即俗称的单片机。单片机成为嵌入式计算机中异军突起的一支新秀。

20世纪90年代，在分布控制、柔性制造、数字化通信和信息家电等巨大需求的牵引下，嵌入式系统进一步快速发展。面向实时信号处理算法的DSP产品向着高速、高精度、低功耗的方向发展。

21世纪是一个网络盛行的时代，将嵌入式系统应用到各类网络中是其发展的重要方向。

嵌入式系统的发展大致经历了以下三个阶段：

第一阶段：嵌入技术的早期阶段。嵌入式系统以功能简单的专用计算机或单片机为核心的可编程控制器形式存在，具有监测、伺服、设备指示等功能。这种系统大部分应用于各类工业控制和飞机、导弹等武器装备中。

第二阶段：以高端嵌入式CPU和嵌入式操作系统为标志。这一阶段系统的主要特点是计算机硬件出现了高可靠、低功耗的嵌入式CPU，如ARM、PowerPC等，且支持操作系统，支持复杂应用程序的开发和运行。

第三阶段：以芯片技术和Internet技术为标志。微电子技术发展迅速，SOC(片上系统)使嵌入式系统越来越小，功能却越来越强。目前大多数嵌入式系统还孤立于Internet之外，但随着Internet的发展及Internet技术与信息家电、工业控制技术等结合日益密切，嵌入式技术正在进入快速发展和广泛应用的时期。