Pour l'OpenGL logiciel, le backend softpipe de Gallium3D m'a l'air très prometteur:

The softpipe driver is a software implementation of the Gallium3D interface. It will be used as a reference implementation and as a fallback driver when a hardware driver isn't available. The softpipe driver will make extensive use of run-time code generation to efficiently execute vertex, fragment and rasterization operations.

The softpipe driver is basically feature complete and runs most OpenGL programs. There is limited support for SSE and LLVM code generation, but that's still under development.

J'ai lu des premiers résultats du générateur de code LLVM il y a quelques semaines, il paraît que ça éclate totalement tout ce qui était rendering logiciel auparavant. Apparemment, sur un CPU récent, c'est même comparable avec un vieux GPU, du moins pour certaines applications.