圖像質量指標高效率評測利器-TE42綜合測試圖卡

TE42 V2 是一款多用途綜合式測試圖卡,用於分析分辨率、紋理再現、分辨率、動態範圍、噪聲、色彩還原、畸變、shading、色差和視覺分析。

由於其功能多樣,圖像質量測試效率明顯提升,並符合多個ISO測量標準要求,多年來,它已成為我們最受歡迎的圖卡。

引 言
本報告中的測試項用於分析手機攝像頭的圖像質量。所有的測試方法都是基於ISO標準。其中的一些測試Image Engineering在1997年的時候就已經開始做了。例如:

  • ISO7589:Photography-Illuminantsfor sensitometry-Specifications for daylight,incandescent tungsten and printer
  • ISO14524:Photography-ElectronicStillPictureCameras-Methodsformeasuringopto-electronic conversion functions(OECFs)
  • ISO 12231:Photography-Electronic still-picture imaging-Terminology
  • ISO 12232: Photography-Digital still cameras-Determinationof exposure index,ISO speed ratings,standard output sensitivity and recommended exposure index
  • ISO12233: Photography-Electronic still-picture cameras-Resolution measurements
  • ISO15739, Photography-Electronic still-picture imaging-Noise measurements
  • ISO15781, Photography-Digital cameras-Measuring shooting time lag,shutter release time lag,shooting rate,and start-up time

圖卡分析示例

TE42 V2圖卡通過iQ-Analyzer-x軟件快速獲取圖像質量數據

測試條件
在少數相機測試中即使無法得到最佳的結果,也需要使用相機的默認設置。這些測試條件的建立都是基於相機的實際使用過程。如果相機在一個非默認模式或條件下進行測試,結果很可能無法代表該圖像的質量。
測量指標

使用新版本的多功能測試圖卡TE42 v2 來測試相機的指標:OECF,動態範圍,分辨率,紋理細節損失,shading,畸變,橫向色差,銳度,畸變,色彩還原,膚色還原,主觀實景。

在以下設置進行測試:

  • 相機默認設置 1000lux
  • 相機默認設置 4倍變焦 1000lux
  • 相機默認設置 -2EV(約250lux)
  • 相機默認設置 -4EV(約63lux)
  • 相機默認設置,閃光燈打開 -4EV(約63lux)

分別得到這些設置下的測試結果。

我們推薦在CIE標準太陽光譜下進行測量,補光光源光譜設置:

CIE 國際標準光源光譜

A光源-2856K

D50 光源-5000K

D65光源-6500K

圖卡介紹:
TE42圖卡是多功能綜合式圖卡,通過拍攝一張圖片,導入到分析軟件中,即可得到camera要求測試的大部分的圖像質量數據,是高效測試的首選測試圖卡。

針對圖卡測試元素每一部分的描述如下:
OECF 和噪聲
20灰階用於確定光電轉換函數(OECF) 。它描述了相機如何將亮度值轉換為數字值。曲線由 3 個色彩通道決定。
使用 TE42v2 圖卡來計算 OECF。圍繞著中心點,它包含了不同的灰階。

TE42 20 個灰階色塊與OECF 和 SNR 曲線

ISO 14524標準定義了如何在線性或對數上繪制數字輸出電平和亮度值。根據ISO15739 計算信噪比(SNR)和視覺噪聲(VN)。
SNR描述了信號和噪聲之間的關係。不同於信噪比,視覺噪聲作為輸出參考噪聲。相比於信噪比,不同的觀察者,視覺噪聲的感知是不同的,對它進行量化有益於觀察者識別噪聲。
6個步驟來模擬人類感知,對於定義的觀察條件得到一個信號噪聲值。

噪聲的視覺感知取決於觀察條件。觀察條件示例:

  • VN1:在顯示器上 100%觀察,觀察距離 0.5m,顯示器分辨率 96ppi
  • VN2:打印高度10cm,觀察距離25cm
  • VN3:打印高度40cm,觀察距離為對角線長度

這兩種打印的觀察距離都應該是對角線長度。最小是25cm。

OECF也會計算動態範圍(DR)。它描述了相機能夠還原的最大的場景對比度。相機能達到的最亮點就是最大輸出值。根據ISO15739最暗點的SNR值是1。動態範圍是最亮點和最暗點之間的對比,可以用光圈,密度或對比度表示。

ISO15739 在SNR為1的基準上定義動態範圍。根據我們的經驗,一些相機黑電平曲線非常平坦可能是有問題的。因此我們通常會選擇SNR=3這個值,我們也經常提供一些相機的測試結果給到Color Foto,得到的SNR越大,代表相機噪聲越低。

通過分析OECF,可以使用數值來確定結果。在8位下,OECF曲線從0開始,到255為止。16位的範圍是0到65535。

如果自動白平衡效果很好,3個通道的曲線應該位於彼此的頂端。如果平均差值大於5,圖像會有偏色。


西門子星分辨率

使用圖卡中心和邊角的正弦西門子星來測量分辨率。一共有5個星,中心一個,邊角 4 個半星。

TE42v2 圖卡正弦西門子星分布

計算的 MTF曲線

西門子星被分割成多個部分,並分別進行測量。中心的星共8個部分,邊角的星共3個部分。最後每個星各個部分的平均值會在報告中顯示。這些曲線包含了許多不同位置和方向的關於銳度和分辨率的信息。它們可以用於檢查相機的光學中心,來分析光學誤差,例如散光,並驗證特定方向或特定頻率的圖像處理以及確定極限分辨率。

星的標記部分

MTF 給出的是成像系統在空間頻率上的一個響應,它的值代表了在一個既定空間頻率上,調制從 0 線對開始不斷減少。

上圖顯示了表現不錯的相機(綠)和表現較差的相機(品紅)

到達紅色虛線的頻率值就是極限分辨率,稱作MTF10。相應的,在空間頻率響應≤50%中(紅線),MTF50是其最大的空間頻率。報告也顯示了25%和50%的極限分辨率。另一種方式是將MTF減少到單一值來計算銳度。因此使用了一個對比靈敏度函數來權衡不同的空間頻率。西門子星主要是用於看相機的分辨率,最大像素。

關於 CSF,用於計算銳度值的觀察條件 vMTF1,vMTF2 和 vMTF3 和視覺噪聲一樣:

  • Set 1:在顯示器上 100%觀察,距離 50cm,顯示器分辨率 96ppi
  • Set 2:打印 10cmx15cm,觀察距離 25cm
  • Set 3:打印高度 40cm,觀察距離為對角線長度


枯葉圖

紋理細節目前已經是相機圖像質量客觀評價的關鍵參數了。尤其是手機相機在低對比度下的紋理細節,這些是很難通過分辨率測量來描述的。在這些相機的信號傳輸中,高像素和非常小的圖像結合在一起導致降噪能力的要求非常高。枯葉圖就是用在這個地方。TE42v2有兩個枯葉圖,一個高對比度,一個低對比度。主要用於分析相機在拍的圖片時紋理細節丟失的情況。

枯葉圖由隨機大小,灰度,位置的圓組成。如果此概率函數是已知的,圖卡的功率譜可以預估。通過相機將圖卡空間內容X(f)轉換到圖像空間內容Y(f)。相機轉換函數H(f)代表的是相機系統的SFR。在這個假設條件中,圖像內容 Y(f)等於X(f)和 H(f)的乘積。

Y(f)=X(f)H(f)

枯葉圖 DIRECT
基於之前的假設, 最簡單的方法就是圖像功率譜PSimage(f)除以圖卡的功率譜PStarget(f)。這可以被看做是相機SFR系統的振幅響應。相機不僅傳遞空間頻率,也會增加空間信息,比如噪聲,artifacts等。事實上從同一圖像上測量參考灰度可以考慮 SFR枯葉圖direct方法。在參考圖塊上測量的噪聲功率譜 PSnoise(f)作為修正因子:

經過這些步驟可以完成計算,假設相機在測試下還原了枯葉圖和參考圖塊,而且是均勻的。因為相機不會提供線性的OECF,TE42v2中的 OECF圖塊可以得到一個線性化OECF。

通過生產過程中的meta信息計算PStarget(f)。

讀取枯葉圖ROI,參考圖塊和灰色圖塊。

從已知的這些反射圖塊來計算OECF。

從枯葉圖RGB圖像和參考圖塊來計算Y(Y 是 R、G、B 的加權和)。

使用OECF的反函數來進行線性化。

(從枯葉圖)計算PSimage(f),(從參考圖快)計算PSnoise(f)。

使用方程I計算SFR(f)。

功率譜的計算包括從2D頻譜到1D數據的還原過程,SFR的計算包括用於演示的標準化過程。


枯葉圖 CROSS

DIRECT方法遵循的是准基本方法的概念,即通過已知的圖卡屬性和圖像內容進行比較,SFR 枯葉圖CROSS遵循的是完整參考方法的概念,即圖卡和圖像逐個像素進行比較(通常用於壓縮算法的性能評價)。

SFR 由傳遞函數H(f)計算獲得。它和direct方法最大的不同在於這種情況下使用複雜的傳遞函數進行計算是有可能的,因為相位信息仍然是可用的。這個cross方法是使用圖卡的交叉功率密度ΦYX(f)和成像儀和圖卡的自功率密度ΦYX(f)來獲得H(f)。

圖卡的交叉功率密度和圖像的空間相匹配,可以計算得出H(f)。ΦYX(f)和ΦXX(f)是在空間領域的窄帶中執行的。SFR 最終被計算,並以1D的方式顯示2D H(f)的實數部分。將2D轉換為1D也被稱為平均,即不管它們的方向如何(2D 頻譜中的圓),所有相同空間頻率的系數的平均。

這個報告顯示了兩個枯葉圖(高對比度和低對比度)的 MTF10和MTF50的數值結果,vMTF1,vMTF2 和 vMTF3銳度,相同觀察條件下的視覺噪聲和正弦西門子星。

關於 CSF,用於計算銳度值的觀察條件 vMTF1,vMTF2 和 vMTF3 如下所示:

Set 1:在顯示器上 100%觀察,距離 50cm,顯示器分辨率 96ppi

Set 2:打印 10cmx15cm,觀察距離 25cm

Set 3:打印高度 40cm,觀察距離為對角線長度

Artifacts

之前描述的任意一種artifacts都會影響SFR枯葉圖direct方法得到的SFR 的結果, 而SFR枯葉圖cross方法則不會。從兩種不同方法計算得到的SFR中,可以得到artifacts的尺度。作為數值結果,可以在銳度中計算兩種方法的差異。這些都是基於半米距離 100%觀察的 96ppi 顯示屏。Artifacts值越大,說明相機的偽影越多。

斜邊
SFRedge的算法在 ISO12233中說明,它是圖像中的一個斜邊的還原能力。邊緣過採樣稱作邊緣擴散函數 ESF。ESF 的一階導數是線展寬函數 LSF,它可以看作是點展寬函數 PSF 的代表。SFRedge 是 LSF 的傅立葉變換得到。

TE42v2 有4個斜邊,水平和垂直的有兩種不同的對比度。如果沒有另外設置,報告會分別顯示水平和垂直斜邊的平均值 MTF50,vMTF1,vMTF2,vMTF3。低對比度斜邊(60%斜邊調制對比度,參見 ISO12233:2014 Annex C),高對比度斜邊(80%斜邊調制對比度)。

不同的對比度在如今相機的圖像信號處理器中運用銳化算法,可以檢測斜邊的對比度,並根據此信息來調整銳化。報告顯示兩種不同對比度的調制對比度偏差。斜邊主要用於檢測相機的銳化程度,用戶可以根據此來調制銳化的程度。

銳化/過衝&下衝

在斜邊分析過程中,ESF會進行變換用於進一步的分析。數字銳化大多會在下衝和過衝的斜邊上出現。斜邊高電平那側增加值,低電平那側減少值。

過衝指圖形中接近max_over增加的強度值(見上文)。下衝指接近低強度平均值min的最低比率值。在較低強度的右側的值是10%斜邊寬度。斜邊寬度是指兩個像素點之間的距離。第一個點是強度值增加到10%Dyn時的點,第二個點是max-10%Dyn的點,10%Dyn=0.1→(max-min)。

前者描述為百分比。此外過衝和下衝區域(黃色標記區域)顯示兩種不同的百分比。Area set 1 指如何在一個顯示器上100%觀察下衝和過衝,觀察距離50cm,分辨率96ppi。

色彩
色彩圖塊分布在OECF圖塊周圍,這些色彩圖塊都是基於Xrite ColorChecker SG,用於評估色彩還原的能力。
每一個色塊對應有默認的數值,需要導入此圖卡對應的參數到軟件中進行準確的測試。

拍照之後,圖塊被鎖定,並將色彩轉換成CIE L*a*b*色彩空間的坐標,來表示人類視覺
接收系統。計算描述色彩還原質量的ΔE 值。ΔE值越小,色彩還原越好。ΔE計算公式:

L*a*b* color space

報告顯示ΔE,ΔL(亮度),ΔC(色度),ΔH(色調),所有測量設置和光源如下所示:

  • 相機默認設置 1000lux
  • 相機默認設置,4 倍變焦 1000lux
  • 相機默認設置 -2EV(約250lux)
  • 相機默認設置 -4EV(約63lux)
  • 相機默認設置,閃光燈打開 -4EV(約63lux)

畸變

  • 在 Y 中比較測量的和理想的ROI坐標
  • 計算每一個標記和中心之間 R 到 G 和 B 到 G 的距離(色差)
  • 集中在水平方向(TV-distortion,picture high distortion,EBU Tech 3249)
  • TV-Distortion 設置和光源如下所示:

相機默認設置 1000 lux


shading 陰影

在圖像中變化的強度或色彩被作為陰影來測量。測量的24個ROI 平均分布在 TE42v2 的圖像上。

報告顯示:

  • 光圈中的陰影強度
  • ΔEab 中的色彩陰影


所有光源和設置如下所示:

  • 相機默認設置 1000lux
  • 相機默認設置,4 倍變焦 1000lux
  • 相機默認設置 -2EV(約250lux)
  • 相機默認設置 -4EV(約63lux)
  • 相機默認設置,閃光燈打開 -4EV(約63lux)


時序測試

時序測量方式根據ISO15781標準,使用LED-Panel與TE42-LL-T圖卡搭配可測量曝光時間、捲簾快門、拍攝延遲等時序參數。

在測試之前,設備會進行散焦,因此焦距時間也包括在內。在圖片中通過計算已經點亮的 LED 燈來確定經過的時間。

在確定快門時滯時,先將設備對準目標,然後松開。

拍攝時滯與快門時滯的區別在於設備需要對焦的時間(對焦時間)。(對焦時間)。

這些測量在兩種照明條件下進行:

  • 800lux
  • 30lux

此外,還測量了智能手機攝像頭拍攝 10 幅圖像所需的時間。因此 如果可能,將激活連續模式。該測試僅在照度為 800 lux。


圖像防抖性能測試

更加ISO20954-2標準,通過六軸抖動平台,我們可以在拍攝圖像時模擬由於人手抖動而產生的微量運動。所使用的設備須具有雙軸運動(俯仰和偏航)。

測試圖卡及抖動設備

抖動波形

定時測量在兩種不同的光照條件下進行:

  • a) 250lux(照明度與圖像質量中的 “中 “相同)
  • b) 10lux(與圖像質量中的 “低 “照度相同)。

主觀實景測試
通過可控的實景燈箱,在D50光源條件下查看實景圖像效果,需要設置高、低兩個不同照度環境。

測試步驟
測試準備
把所有的儀器設備準備好後,首先把TE42圖卡固定在支架上,保證TE42平整無損壞。

把所用的光源擺放在圖卡的兩側面,兩組光源分別和圖卡的中心成45°,同時保證兩組光源到圖卡中心的位置的距離相同,圖卡表面均勻度>90%。

如下圖的一個示意,圖卡固定在一個比較垂直的支架上,手機水平對準拍攝。

拍照要求
把手機或相機固定在支架上,對準圖卡,調整好焦距,進行拍照。拍照一定要在暗室環境下完成。

圖形和數值結果解讀
OECF 和噪聲

  • VN1:在顯示器上 100%觀察,距離50cm,顯示器分辨率96ppi;數值越小,結果越好
  • (噪聲越少)
  • VN2:打印10cm高度,觀察距離25cm;數值越小結果越好(噪聲越少)
  • VN3:打印40cm高度,觀察距離為對角線長度;數值越小結果越好(噪聲越少)
  • DR:光圈F-stop(EV)動態範圍
  • SNR:信噪比

OECF 數據的簡短評價
OECF 數據不會顯示相機的任何嚴重缺陷。在不同的光源下視覺噪聲是穩定的,只能看到一點點。總的來說測試設備和最近的相機相比多了約22%的噪聲。動態範圍一致性很好,但是有一點低。這個手機測量動態範圍的平均值達到了7.6光圈(在1000lx時),最大值為8.8光圈。根據圖形顯示,自動白平衡輕微偏紅(R曲線比G曲線和B曲線稍稍高出一點)。

西門子星分辨率

% 號這一欄是 center 值和nyquist 值的比。Centering 是周圍5個西門子星的百分比的平均值和中心西門子的百分比的差值。

這些數據在軟件中是切換到 group 就可以看到  center 和 corners 相對應的數據。
西門子星分辨率數據的簡短評價

測試設備平均分辨率達到了理論值,也就是奈奎斯特頻率的 96%(在1000lx 時)。不過相機也顯示出了在所有光源下低於平均值的對比度的問題。也顯示了在變焦情況下的分辨率問題。分辨率下降到理論值的23%,圖像變得非常模糊。通常來說所有手機相機(除了諾基亞),變焦情況下達到的25%的分辨率比平均值要差。邊角分辨率相比於中心分辨率僅僅下降了一點點。所有光源下測試設備邊角分辨率僅僅損失了11%,平均值損失了16%。


枯葉圖

下面圖是不同算法在不同條件下的枯葉圖匯聚在同一張圖中的對比。

枯葉圖數據的簡短評價
紋理細節顯示了設備的表現能力。它在紋理細節和拖影中找到了一個折衷點。在變焦時這個表現並不是很好,大約30%,比平均值要差。

斜邊

Area set1 在軟件中是在分辨率這一欄,在數值欄里指integral o/u 。具體如圖中紅框所標注。。但是是兩個同樣對比度斜邊值的平均值。Area set3根據公式:set3=(400mm/picture height)*set1 計算得到。

下面圖是不同的光照條件下高對比度和低對比度斜邊的分析結果的比較。

斜邊數據的簡短評價
一般來說,相機運行時都有適度的過衝和下衝。雖然一些設備會增加不同的過衝和下衝,該測試設備使用了相等的過衝和下衝。因此斜邊被增強了,但是並不會顯示出太強的銳化。


色彩

Δ 值顏色分類

左邊:相機還原色彩,右邊:參考色彩

1000lux 時的色彩
色彩數據的簡短評價

該設備在色彩還原方面沒有問題
畸變和陰影

畸變和陰影數據的簡短評價
測試設備的鏡頭沒有畸變問題。設備的色彩陰影顯示了陰影強度略高於平均值。但後者不會對圖像產生負面影響。