圖1 4×4塊預測類型的像素點分布

圖2 4×4塊預測方向

圖3 16×16塊預測模式

　　該算法在選擇編碼窗口時以絕對誤差和SAD（Sum of Absolute Difference）作為判斷準則。絕對誤差和是指當前待編碼塊與預測塊之間的差值絕對值之和，即殘差之和。假設當前塊用S(i,j)表示，預測值為pred(i,j)，i,j=0,1,...,N，則
　　
　　SAD值越小，說明圖像的殘差值越小，從而說明當前待編碼塊與預測塊越接近，相應預測模式的預測的精度越高；反之，SAD值越大，說明圖像的殘差值越大，從而預測塊不能很好的反應當前待編碼塊，相應預測模式的預測精度越低。

　　為了綜合考慮各種預測模式的不同偏重方向性，當對宏塊進行編碼時會遍歷所有的預測模式，并借助模式判決準則從中選出最優的模式作為最終的編碼模式。

3．3 變換

　　由于離散余弦變換（DCT）非常近似于統計最佳的K-L變換，所以DCT通常被用于圖像塊的變換編碼中。但是DCT有一個缺點：在DCT變換矩陣中的部分系數是無理數，在計算機上用迭代方法進行變換和反變換后，不能得到一致的初始值。本文采用H.264幀內編碼的思想，用整數DCT[6]代替浮點數DCT。整數DCT對圖像信號作用后可以獲得與DCT類似的頻率分解；同時，正交變換的目的是減少變換系數的相關性，使得變換系數的能量集中在較少的幾個分量上，變換前后的能量并沒有損失，在去除空間相關性上，整數DCT與DCT具有相同的效果。

　　本文中采用了兩種變換：整數4×4 DCT和4×4的Hadamard變換。

　　整數4×4DCT變換減少了舍入誤差，降低了計算復雜度，提高了運算精度；使用4×4塊進行變換，使用于變換的塊的尺寸縮小，能夠減少塊效應；同時，為了使小尺寸的變換方式對圖像中較大面積的平滑區域不產生塊之間的灰度差異，進一步降低DC系數間的相關性，對16個4×4塊的DC系數進行第二次塊變換，即Hadamard變換。