浙江大学学报(理学版), 2023, 50(6): 681-691 doi: 10.3785/j.issn.1008-9497.2023.06.003

第26届全国计算机辅助设计与图形学学术会议专题

基于最优质量传输的Focus+Context可视化

苏科华,,1, 刘百略1, 雷娜,,2, 李可涵1, 顾险峰3

1.武汉大学 计算机学院, 湖北 武汉 430072

2.大连理工大学 国际信息与软件学院, 辽宁 大连 116024

3.纽约州立大学石溪分校 计算机系, 美国 石溪 11790

Focus+Context visualization based on optimal mass transportation

SU Kehua,,1, LIU Bailüe1, LEI Na,,2, LI Kehan1, GU Xianfeng3

1.School of Computer Science,Wuhan University,Wuhan 430072,China

2.International School of Information Science & Engineering,Dalian University of Technology,Dalian 116024,Liaoning Province,China

3.Department of Computer Science,State University of New York at Stony Brook,Stony Brook 11790,New York,USA

通讯作者: ORCID:https://orcid.org/0000-0003-3361-0756,E-mail:nalei@dlut.edu.cn.

收稿日期: 2023-06-12   修回日期: 2023-07-19   接受日期: 2023-07-31  

基金资助: 国家自然科学基金资助项目.  62272354

Received: 2023-06-12   Revised: 2023-07-19   Accepted: 2023-07-31  

作者简介 About authors

苏科华(1979—),ORCID:https://orcid.org/0000-0002-1384-9762,男,博士,教授,主要从事计算机图形学研究,E-mail:skh@whu.edu.cn. , E-mail:skh@whu.edu.cn

摘要

在分辨率有限的显示设备上,Focus+Context技术可用于大型复杂模型的可视化。提出了一种基于最优质量传输的Focus+Context可视化方法。通过最优质量传输映射,对自身进行体积变形,将源测度(体素)转换为传输成本最小的目标测度;将求解最优质量传输问题等价于凸优化过程,转换为计算几何中经典的幂Voronoi图计算。与现有方法相比,本文方法具有坚实的理论基础,保证了解的存在性、唯一性和平滑性;允许用户精确控制目标测度,选择多个形状不规则的聚焦区域,使产生的变形是全局平滑的,并可自由翻转。用于自医学应用和科学仿真的几项体数据集,证明了所提方法是有效和高效的。

关键词: 辐射度 ; 全局光照 ; 常量时间

Abstract

In visualization field, Focus+Context techniques have been developed to visualize large, complex models on the display device with limited resolution. In this work, we propose a novel method for Focus+Context visualization based on optimal mass transportation. An optimal mass transportation map deforms a volume to itself, transforms the source measure (volumetric element) to the target measure with the minimal transportation cost. Solving the optimal mass transportation problem is equivalent to a convex optimization, and can be converted to computing power Voronoi diagrams in classical computational geometry. Comparing to existing approaches, the proposed method has solid theoretic foundation, which guarantees the existence, uniqueness and the smoothness of the solution. It allows the user to accurately control the target measure, and select multiple focus regions with irregular shapes. The resulting deformation is globally smooth and flipping free. Experiments with several volume data sets from medical applications and scientific simulations demonstrate the effectiveness and efficiency of our method.

Keywords: radiosity ; global illumination ; constant time

PDF (3910KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

苏科华, 刘百略, 雷娜, 李可涵, 顾险峰. 基于最优质量传输的Focus+Context可视化. 浙江大学学报(理学版)[J], 2023, 50(6): 681-691 doi:10.3785/j.issn.1008-9497.2023.06.003

SU Kehua, LIU Bailüe, LEI Na, LI Kehan, GU Xianfeng. Focus+Context visualization based on optimal mass transportation. Journal of Zhejiang University(Science Edition)[J], 2023, 50(6): 681-691 doi:10.3785/j.issn.1008-9497.2023.06.003

0 引言

Focus+Context(F+C)框架可在有限分辨率屏幕上对大型复杂模型进行可视化,通过模拟光学镜头或变形视体放大感兴趣区域,并允许用户在不丢失模型形状和拓扑结构的全局视图下查看感兴趣区域的细节,在放大感兴趣区域的同时不会剪掉其他区域。这种可视化技术可将模型的整体感知传达给用户,并引导用户将注意力集中在局部区域。

0.1 空间变形法

基于网格的空间变形是F+C可视化最常用的技术之一1。体表示一个规则的网格,并被划分为具有不同重要性的区域,赋予体素对应的重要性值。通过重新定位顶点对个体进行变形,使体素与其重要性成比例扩大,同时保持其局部形状,变形是全局平滑的。此外,变形没有翻转或自交叉。

ΩR3表示体积,其欧几里得体积元为dxdydz。指定函数μ:ΩR+,将其视为体积元的放大因子,目标体积元由μ(x,y,z)dxdydz给出。由于变形不超过体积,故可得自映射φ:ΩΩ。显而易见,映射φ是光滑的、一对一的、映上的,因此φ为微分同胚。更重要的是,映射将初始的欧几里得体积元变形为目标体积元:

Dφ:dxdydzμ(x,y,z)dxdydz

这就需要φ的雅可比矩阵的行列式等于μ,即

det(Dφ)(x,y,z)=μ(x,y,z)

在现有方法中,式(1)中的雅可比关系可用最小二乘能量近似,首先在能量中加入惩罚项,实现微分同胚条件,然后对能量进行优化得到变形,但这些方法有以下缺点:(1) 不能准确地给出放大因子。没有理论保证可以得到一个完全满足式(1)的解;(2) 通过优化惩罚能量可能无法满足微分同胚条件,得到的映射仍有可能存在翻转或自交;(3) 优化可能会停止在非线性能量的局部最小值,而不是全局最小值。因此,优化依赖于初始条件的选择,结果的可重复性较差。

0.2 最优质量传输法

为了克服这些缺点,本文提出了一种基于最优质量传输(optimal mass transportation,OMT)的F+C可视化方法。先假设Ω上的测度的定义,将其视为所需的体积元,进一步假设总测度等于初始体积。满足式(1)的微分同胚体有无限多个,但仅有一个可使得传输成本最小化:

Cφ:=Ωp-φp2dxdydz,

其中,φ为最优质量传输映射。此外,凸函数f:ΩR,其梯度映射pf(p)给出了最优质量传输映射。此时,式(1)变为Monge-Amper´e方程:

detHess f(x,y,z)=μ(x,y,z),

其中,Hess f是函数f的Hessian矩阵。

在本文方法中,Monge-Amper´e方程被离散化,通过凸优化进行求解。优化是迭代的,每步的算法可归结为计算一组超平面的上包络,并投影包络以获得幂Voronoi图和对偶幂Delaunay三角剖分,通过计算几何中的经典算法实现2

与现有方法相比,OMT方法具有以下优点: (1) 可以直接找到式(1)的精确解,且其存在性、唯一性有理论保证。这使得用户可以精确控制放大因子;(2) OMT映射是微分同胚的,因其雅可比矩阵处处为正;(3) 寻找OMT映射的方法等价于凸优化过程。由于能量的凸性,该方法存在唯一全局最小值;结果与初始条件无关,且易复现。

第1节简要回顾F+C可视化的相关工作;第2节介绍理论背景;第3节详细介绍最优质量传输映射算法;第4节介绍F+C可视化;第5节呈现实验结果;第6节讨论算法的优点和缺点;第7节为总结和展望。

1 相关工作

F+C可视化已被用于图形、城市和地图、嵌套网络、3D模型等领域进行交互式数据探索。

F+C可视化方法之一是基于光学透镜和放大镜的仿真,例如由MANOJIT等3提出的用于文本、图像和图形可视化的fisheye方法。fisheye镜头提供了模型的整体视图,虽保留了空间关系,但在边缘引入了明显的失真,无法形式化地控制焦点区域,也不能保留上下文区域的局部特征。KUMAR等4对fisheye相机模型进行了统一分类处理,提供了一个自成体系的fisheye感知参考。KUMAR等5开发了一种用户界面Tool glass and magic lenses,增强了感兴趣区域的焦点特征,压缩了感兴趣程度低的区域。AGLEDAHL等6受文献[5]的启发,提出了一种新型的用于虚拟环境的放大工具,但是性能并没有显著提高。CARPENDALE等7-8提出了几种畸变模式,如拉伸正交和非线性径向和多尺度方法,为焦点区域分配了更多空间,实现了3D视点独立畸变,通过统一展示空间,高效地利用了可用的显示空间9。VIOLA等10提出了基于重要性驱动的自动显示物体的F+C体绘制。利用预先确定的物体重要性,对体素可见性优先级进行编码,用于指导渲染,避免重要区域被不重要区域遮挡;另外还提出了一种自动聚焦特征的技术11,从一组预定义的特征中挑选焦点,自动确定特征中最具表现力的视图。PIETRIGA等12提供了一种新型的Sigma透镜,利用时间和其半透明特点实现更高效的过渡;之后,又提出了一种就地放大和独立展示的系统13

另一种方法是基于体积变形的仿真。LAMAR等26使用硬件加速对渲染的2D或3D图像体积的变形过程,动态计算网格顶点的纹理坐标,并将坐标投影到同质空间上渲染纹理,得到理想的结果。MCGUFFIN等14将变形技术应用于体数据浏览,允许用户打开、散开或剥开外层撕裂的小牛肉隐藏结构。CORREA等15使用物理和光学图解运算符操纵数据对象的几何形状。WANG等16提出了一种自由形式的体透镜函数方法高亮、曝光和非线性放大目标,同时提出通过变形突出3D体数据集中特征的解决方案。对于大型表面模型,WANG等17提出了一种能量优化模型,在变形上下文区域的同时放大ROI;进一步将该模型应用于体数据集,以保留感兴趣的特征,作为F+C可视化结果1。ZHAO等18提出的共形放大镜方法适用于体数据集和表面网格模型,能消除局部角度失真,并以一致和全局的方式保持视觉连续性。TAO等19将F+C可视化技术推广至基于网格空间变形的流场可视化领域。然而,大多数技术无法精确控制放大因子。有些方法是启发式的,没有坚实的理论基础,解的存在性、唯一性和平滑性也没有理论保证。相比之下,本文方法具有严格的数学基础,并可在体素级别上实现控制放大。

ZHAO等20通过最优质量传输获得了保面积映射,并将其应用于医学图像和图形的可视化,通过生成平滑、连续的过渡体,控制放大的精确测度,且不会丢失视觉一致性上的任何上下文信息,但方法的焦点在2D表面。而本文方法主要用于体可视化,具有推广至更高维度的潜力。

2 理论背景

2.1 最优质量传输

Monge问题 设XY是分别具有概率测度μν的测度空间。假设XY具有相等的总测度,为

Xμ=Yν

如果映射T:XY满足:对任何可测度的集合BY,有

T-1Bμ=Bν

T为保测度映射,说明由T引出的μ的正向推量等于ν,表示为ν=T#μ

c(x,y)为从xXyY的传输成本,则T的总传输成本为

ET:=Xc(x,T(x))dμx

Monge问题引出了最优质量传输问题:如何找到一个保测度映射 TT#μ=ν,使得式(2)中的传输成本最小?21

KANTOROVICH22引入了Monge问题的松弛,并使用线性规划解决了该问题。BRENIER23证明了以下定理。

定理1 假设XYRn中的子集,源X是凸域,传输成本是二次欧氏距离,即

cx,y=x-y2

分别给定在XY上的概率测度μν,则存在唯一的最优传输映射T:(X,μ)Y,ν,此外还存在凸函数f:XR,其可根据一个常数确定唯一性,最优质量传输映射由梯度映射T:XfX给出。

假设μν是光滑的,f是二阶光滑的,fC2X,R,如果f是保测度的,则其满足Monge-Amper´e方程:

detfx12fx1x2fx1xnfx2x1fx22fx2xnfxnx1fxnx2fxn2=μνf

一般来说,Monge-Amper´e方程是高度非线性的,采用常规的有限元方法无法求解此类型的偏微分方程。然而,基于其几何性质,可采用变分方法,通过凸优化求解。

2.2 离散最优质量传输

在实践中,采用离散点集确定目标域,以表述离散设置下的最优传输问题,当采样密度趋于无穷时,离散解收敛至光滑解。假设μX上有一个紧支撑,定义为

Ω=Supp μ=xX|μx>0,

并假设Ω是X中的凸域。空间Y通过狄拉克测度被离散为Y=y1,y2,,yk,狄拉克测度表示为

ν=i=1kνiδ(y-yi)

定义一个由k个实数组成的高度向量h=h1,h2,,hkRk。对于每个yiy,构造定义在X上的超平面:

πih:x,yi+hi=0,

其中,,Rn中的内积。定义分段线性函数

uhx=max1ikx,yi+hi,

uh为凸函数。用Gh表示凸函数uh的图,Gh是无限凸多面体,可支撑平面πih,所以Gh是平面πih的上包络线。由Gh的投影引出多面体划分Ω:

Ω=i=1kWih, Wih:=xX|uhx=x,yi+hiΩ

单元Wih是凸多面体Gh的一个面片在Ω上的投影。单元Wih上的凸函数uh是线性函数,可描述为πih,因此,梯度映射为

uh:Wihyi,    i=1,2,,k,

可将单元Wih映射至点yi

在当前离散设置约束下,定理1可以表述为

定理2(离散OMT) 对于具有凸支撑ΩXX上的任何给定测度μY上的狄拉克测度ν,有

Ωdμ=i=1kνi,    νi>0,

必须存在唯一的高度向量 h,直到添加一个常数向量c,c,,c,由式(5)中的凸函数引出如式(6)所示的单元划分Ω,使得所有单元都满足保测度约束:

Wihdμ=νi,    i=1,2,,k

此外,梯度映射uh优化了传输成本:

ET:=Ωx-Tx2μxdx

ALEXANDROV24用拓扑学方法证明了解的存在性和唯一性。之后存在性也被AURENHAMMER25证明。

GU等2基于变分原理也给出了存在性和唯一性证明。首先,定义高度向量的可容许空间:

H:=h|Wihdμ>0i=1khi=0

然后,定义能量Eh为以图Gh为界的凸多面体和通过Ω边界的圆柱体的体积减去一个线性项:

Eh=Ωuhxμxdx-i=1kνihi

能量梯度为

Eh=Wihμ-νi

假设单元WihWjh在某表面处相交,即

fijh=WihWjhΩ,

那么,Eh的Hessian矩阵各元素(i为行数,j为列数)为

2Ehhihj=fijhμyj-yi    WihWjhΩ0   其他

可容许空间H是凸的和Hessian矩阵在H上是正定的已得到证明,因此在式(11)中能量Eh是凸的。此外,全局最小值h*H的一个内部点。在最小值处,Eh*=0,表示梯度映射uh满足式(8)的保测度约束,而且梯度映射是最优质量传输映射。

利用牛顿法可求得能量(式(11))的全局最小值。与文献[22]中k2个未知数相比,该方法只有k个未知数。

3 算法

源域Ω是R3中的标准单位立方体,目标是一组离散点Y=q1,q2,,qk,这些离散点密集均匀地对单位立方体进行采样。立方体上的源域测度处处为μ=1。Y上的目标测度由用户指定,ν=ν1,ν2,νk。对于每个目标点qiY,先在R4上构造超平面:

πi(h,p):=qi,p+hi,    i=1,2,,k,

再计算超平面的上包络线Gh

3.1 幂Voronoi图和幂Delaunay三角剖分

对于每个超平面πih,首先构造对偶点πi*hR4,假设qiR3的坐标为(xi,yi,zi),则对偶点为

πi*h=(xi,yi,zi,-hi),    i=1,2,,k

然后利用增量凸包算法26,计算{π1*h,π2*h,,πk*h}的凸包,并将得到的凸包表示为𝒞h。最后检查R4中凸包𝒞h边界上的四面体tijkl

tijklh𝒞h

该四面体的超平面方程为

xiyizi-hi1xjyjzj-hj1xkykzk-hk1xlylzl-hl1xyzw1=0,

可得超平面的法向量,记为nijkl。如果法向量nijklw分量为负,则将四面体tijkl投影至(x,y,z)-超平面。凸包𝒞h的投影过程产生了点集Y的幂次Delaunay三角剖分,记为𝒯h

超平面πih的上包络表示为h,是凸包𝒞h下半部分的对偶,对于凸包𝒞h边界上的每个四面体tijkl,其法向量是负w分量,其对偶是上包络h上的一个顶点,这是4个超平面πih,πjh,πkh,πlh的交集。四面体tijkl中的每个三角形ijk对偶于h的一条边,h是3个超平面πih,πjh,πkh的交集。四面体tijkl中的每条边eij对应h中的一个面,是2个超平面πih,πjh的交集。四面体tijkl中的每个顶点νi对应h的一个单元,被超平面πih所支撑。通过计算凸包𝒞h的对偶,得到上包络h,将上包络投影至(x,y,z)-超平面,得到该超平面的幂Voronoi图,每个幂Voronoi单元与Ω相交得到Ω的幂Voronoi单元分解,记为𝒱h

实际上,上包络h是凸函数Gh的图,幂Voronoi图𝒱h是在式(6)中通过投影Gh得到的多面体划分Ω。上包络h、凸包𝒞h、幂Voronoi单元分解𝒱h、幂Delaunay三角剖分𝒯h及其关系的二维类比如图1所示。

图1

图1   上包络h、凸包𝒞h、Voronoi单元分解𝒱(h)、幂Delaunay三角剖分𝒯h及其关系的二维类比

Fig.1   The upper envelope h, the convex hull 𝒞h, the power voronoi cell decomposition 𝒱(h), the power Delaunay triangulation 𝒯h and two-dimensional analogies of their relationship


3.2 最优质量传输映射

设离散点集Y包含在单位立方体Ω中,初始高度向量设为

hi=12qi,qi,    i=1,2,,k

初始幂Delaunay三角剖分𝒯h是传统的Delaunay三角剖分,幂Voronoi单元分解𝒱h是传统的Voronoi单元分解。在每一步中,首先,计算幂 Delaunay三角剖分𝒯h和幂Voronoi单元分解𝒱h式(11)中的体积能量梯度由式(12)给出,体积能量的Hessian由式(13)给出。然后,求解线性方程

Eh=2Ehhihjδh

当线性约束i=1khi=0时,解存在且唯一。最后,用牛顿法更新高度向量:

hh+λδh,

其中,λ为步长参数。理论上,步长参数的选择应使高度向量保持在可容许空间H式(10))内,即在幂Voronoi单元分解𝒱h中,每个单元Wih是非空的。在优化过程中,允许 h 超过可容许空间H。体能的凸性自动引导高度向量返回可容许空间。

4 F+C可视化

体原始图像数据的分辨率为512×512×512,每个体素的强度范围为0~255。源域Ω是以原点为中心、边长为2的立方体。

4.1 焦点选择和目标测度约束

使用文献[1]中的方法,通过显著性人工选择或自动计算得到焦点区域。人工选择的一种简单直接的方式是:指定2个同心球Sc,rSc,Rr<R,以及参数λ1。首先,计算目标测度函数μ:ΩR,较大的球体Sc,R外部等于1,较小的球体Sc,r内部等于λ。此外,μ是两个球体之间区域的调和函数,满足具有狄利克雷边界条件的拉普拉斯方程:

Δμ(p)=0,r<p-c<Rμ(p)=1,p-c=rμ(p)=λ,p-c=R

然后,对目标测度归一化,计算总体积:

V=Ωμpdp=tijkltijklμ(p)dp

其中,tijkl表示由vivjvkvl组成的四面体。最后,将目标测度按4/V缩放,μ4μ/V

4.2 离散化

本文算法将目标域离散为一组点Y=q1,q2,,qk。用Delaunay细化算法2对Ω进行三角剖分,通过指定每个四面体的最大体积,获得均匀的采样;用TetGen27计算Ω的四面体网格。四面体网格仍记为Ω=V,E,F,T,其中VEFT分别表示顶点、边、面和四面体的集合。

用户可以选择聚焦区域,选择两个近似于球体的三角形网格。内部和外部的球体仍表示为Sc,rSc,R。离散Laplace-Beltrami算子采用有限元方法进行建模28。设eijE是一条边,则余切边权重定义为

wij=112kllklcotθijkl,

其中,lkl为边ekl的长度,θijkl为四面体tijkl中边ekl上的二面角,对所有与边eij相邻的四面体求和。

目标测度μ近似于一个分段线性函数,表示为定义在顶点集μ:VR上的函数,并且该测度对内部点进行线性插值,即假设点p在四面体tijkl内,则

μ(p)=λiμvi+λjμ(vj)+λkμvk+λlμvl,

其中,λi,λj,λk,λl分别为点p关于vi,vj,vk,vl的质心坐标,是下列线性方程的唯一解:

λivi+λjvj+λkvk+λlvl=pλi+λj+λk+λl=1

所以,离散Laplace-Beltrami算子为

Δμvi=eijEwij(μ(vj)-μ(vi))

式(15)离散为线性方程组。可以证明,离散Laplace-Beltrami算子是线性空间ixi=0上的正定矩阵,因此,离散拉普拉斯方程有唯一的常数解。在获得初始测度μ:VR后,首先计算总测度:

V=Ωμ(p)dp=tijkltijklμpdp

因为μ是分段线性的,故每个四面体上μ的积分为

tijklμ(p)dp=14[μvi+μ(vj)+μvk+μvl]Vol(tijkl)

然后,通过μ1/Vμ对目标曲率归一化。以顶点为中心计算Ω的Voronoi单元分解:

Ω=i=1kWi,   Wi=pΩ|p-vip-vj,j=1,2,,k

最后,计算狄拉克测度:

μj=Wjμpdp

先计算Voronoi单元Wi与Delaunay三角剖分中每个四面体tijkl的交点,该交点为凸多面体;再将凸多面体分解为一对四面体,用式(18)计算每个四面体上μ的积分,得到样本的狄拉克测度(v1,μ1),(v2,μ2,vk,μk

4.3 离散OMT映射算法

首先,计算Ω的一个幂Voronoi单元划分,将单元Wih映射至样本点vi。然后,将此表示转换为从四面体网格Ω到自身的分段线性映射。将每个Voronoi单元Wih,分解为一对四面体tij,四面体的质心是其4个顶点的均值,记为cijWih的质心为

cih=jcijVoltijjVoltij

如果Wih与Ω的边界相交,则将其质心投影至边界曲面Ω,并用投影图像替换质心cih

立方体Ω通过幂Delaunay三角剖分𝒯h进行三角剖分,顶点位置在源域中为cih,在目标域中为vi。通过分段线性映射φ:Ω,𝒯hΩ,𝒯h,将顶点从cih映射至vi,有φcih=vi

OMT映射算法:

输入 一个凸域ΩR3和一组离散点Y=q1,q2,,qk,离散目标测度ν=ν1,ν2,,νk,使得iνi=VolΩ

输出 Ω的一个划分,Ω=iWi,使得Wiqi是OMT映射。

while true do

fori1tokdo

建立超平面πih:qi,p+hi

计算超平面的对偶点πi*h

建立对偶点集πi*h的凸包𝒞h

计算凸包的对偶,得到超平面集πih的上包络h

投影𝒞h获得Y的幂Delaunay三角剖分𝒯h

投影h获得Ω的幂Voronoi单元分解𝒱h

fori1tokdo

计算Wih的体积wih

建立梯度Eh=νi-wihT

for 每条边eij𝒯hdo

计算对偶面fij的面积Aij

建立Hessian矩阵2Ehhihj=Aijqj-qi

求解线性方程Hesshδh=Eh

λ1

计算Ω的幂Voronoi图𝒱h+λδh

while 存在wih+λδh为空 do

λ1/2λ

计算Ω的幂Voronoi图𝒱h+λδh

hh+λδh

if wih-νi<ε then break。

return 映射Wiqi,1,2,,k

4.4 三线性体素重采样

假设给定一个体图像数据S,使用最优质量传输映射φ:ΩΩ生成另一个具有不同分辨率和体积测度的体图像数据T。将体图像数据表示为三维数组,对于T中的每个体素T(i,j,k),在Ω中定位其位置p,并找到包含p的四面体tpqrs,用式(17)计算重心坐标(λp,λq,λr,λs)p的原像可表示为

φ-1(p)=λpcph+λqcqh+λrcrh+λscsh

然后,找到S中与φ-1(p)相邻的体素,用三线性插值得到φ-1(p)的强度,并将其赋值于T(i,j,k)

5 实验结果

实验设备为一台具有双处理器2.9 GHz CPU和8 GB内存的笔记本电脑。在Windows平台采用通用C++开发系统。基于包含计算幂Voronoi图和Delaunay三角剖分模块的CGAL库实现OMT。在GPU上使用基于raycasting算法的Voreen完成体绘制。

5.1 大变形和全局光滑

体动脉瘤数据的分辨率为256×256×256。焦点区域为实心球,中心c=(0.06,0.32,0.04),半径r=0.1。放大因子为1,27,125,343,例如放大因子为343表示将感兴趣区域(region of interest,ROI)的体积放大343倍,如图2所示,可知,OMT能够设计大变形并保持映射的平滑性。因为OMT映射是凸函数的梯度映射,所以OMT映射的雅可比矩阵就是函数的Hessian矩阵。式(3)中的Monge-Amer'e方程表明雅可比矩阵处处为正,因此OMT映射是全局微分同胚的。即便放大因子很大,整个变形仍处处光滑,更进一步,映射没有折叠,因此空间和拓扑关系都得到了很好的保留。

图2

图2   用OMT技术放大的动脉瘤

Fig.2   The volumetric aneurism magnified by large scales using the OMT technique


5.2 精确控制

图3展示了体元变形准确性的验证结果。盆栽模型的分辨率为512×512×512,强度等级为255。焦点区域是一个实心球,圆心c=(0,0,0),半径为0.2,如图3(b)中红色实心球所示。采用OMT映射算法,在放大因子为27的条件下进行体积变形,焦点区域如图3(e)中的实心球所示,对于每个幂Voronoi单元Wih,计算其最终值v与期望测度vi的比值,取对数,并作如图3(g)所示的直方图。可知,直方图高度集中在原点,证明本文算法能在体素水平上精确控制变形。

图3

图3   对盆栽模型测度的精确控制

Fig. 3   Measure accurate control for Bonsai model


5.3 变形的光滑性

体积变形由目标测度的连续性控制,如图4所示。在非调和方式下,焦点区域是以c=(-0.42,0.13,0.26)为中心,半径r=0.26的实心球。目标测度μ在球内为64,在球外为1,因此μ是不连续的。如图4(b)~(d)所示,这种测度会引起较大的形变,特别是焦点区域的边界处。在调和方式下,选择2个同心球,中心为c=(-0.42,0.13,0.26),半径分别为r=0.15和r=0.26。目标测度μ在球内为64,在球外为1,是两个球体之间的调和函数。因此,μ是一个光滑函数,其引起的形变明显较小,如图4(e)~(g)所示。表明体的全局变形受目标测度的平滑性影响较大。

图4

图4   目标测度μ的平滑程度对脚模型变形平滑程度的影响

Fig. 4   The effectiveness of the smoothness of the target measure μ on the smoothness of the deformation


5.4 不规则感兴趣区域

图5为NCAT phantom模型的F+C可视化结果,可知,本文算法允许用户定义高度不规则的感兴趣区域。焦点区域不是规则的实心球,而是包裹了脊柱的凹形不规则形状,严格拟合了体数据中的感兴趣内容。OMT映射仍是微分同胚的,且可以完全控制目标测度。

图5

图5   NCAT phantom模型的F+C可视化结果

Fig. 5   F+C visualization for NCAT phantom model


5.5 多焦点区域

采用基于OMT的F+C方法,选择多个焦点区域,可为不同的兴趣区域分配不同的放大因子。在图6所示的CT膝关节模型中,选择两个兴趣区域:一个是左髌骨区域的球,中心c1=(-0.4,-0.36,-0.50),半径为0.19,放大因子λ1=8的球;另一个是右胫骨的实心球,中心c2=(0.46,-0.06,-0.71),半径为0.15,放大因子λ2=16。

图6

图6   多焦点多视角放大的CT膝关节模型的F+C可视化结果

Fig. 6   F+C visualization for CT knee model with multiple focus magnification in different views


5.6 时间复杂度

表1列出了本文方法在各模型上的运行时间。Ω是边长为2的标准立方体,离散样本数约为10 000。手动选择感兴趣的区域,OMT映射的计算是离线执行的。

表1   运行时间

Table 1  Running time

模型数据来源运行时间/s分辨率
动脉瘤Philips Research,Hamburg,Germany118512×512×512
盆栽Rosttger S,VIS,University of Stuttgart156512×512×512
Philips Research,Hamburg,Germany182256×256×256
NCAT phantomSegars WP,Tsui BMW156512×512×512
CT膝关节Department of Radiology University of Iowa134440×440×440

新窗口打开| 下载CSV


6 优点和缺点

提出了一种基于最优质量传输的F+C可视化方法。与现有方法相比,本文方法:(1) 具有坚实的理论基础,保证了解的存在性、唯一性和正则性;(2) 允许用户精确控制目标体积元(测度);(3) 保证全局微分同胚,变形是全局平滑的;(4) 为形状不规则的多个焦点区域提供了灵活性;(5) 可推广至任意维度。

另外,该方法基于非线性凸优化,需幂 Delaunay三角剖分和幂Voronoi图的复杂几何数据结构,且组合结构是动态变化的。由于优化主要在CPU上进行,故无法实时计算。但Voronoi图可以仅使用GPU进行计算29,意味着未来有可能实现实时计算。

7 结 语

提出了一种基于最优质量传输理论的F+C可视化方法,保证了解的存在性、唯一性和平滑性。允许用户精确控制目标体积元,可选择多个形状不规则的焦点区域,且可通过计算几何中的幂Voronoi图和Delaunay三角剖分实现优化。此外,还可将该方法推广至更高维度。

未来,将在GPU上实现最优质量变换映射算法,并将可视化技术推广至更高维度。

http://dx.doi.org/10.3785/j.issn.1008-9497.2023.06.003

参考文献

WANG Y SWANG CLEE T Yet al.

Feature-preserving volume data reduction and Focus+ Context visualization

[J]. IEEE Transactions on Visualization and Computer Graphics, 2010172): 171-181. DOI:10.1109/tvcg.2010.34

[本文引用: 3]

GU XLUO FSUN Jet al.

Variational principles for Minkowski type problems, discrete optimal transport, and discrete Monge-Ampere equations

[J]. Asian Journal of Mathematics, 2016202): 383-398. doi:10.4310/ajm.2016.v20.n2.a7

[本文引用: 3]

SARKAR MBROWN M H.

Graphical fisheye views of graphs

[C]// SIGCHI Conference on Human Factors in Computing Systems. MontereySIGCHI199283-91. DOI:10.1145/142750.142763

[本文引用: 1]

KUMAR V REISING CWITT Cet al.

Surround-view fisheye camera perception for automated driving: Overview, survey & challenges

[J]. IEEE Transactions on Intelligent Transportation Systems, 2023244): 3638-3659. DOI:10.1109/tits.2023. 3235057

[本文引用: 1]

BIER E ASTONE M CPIER Ket al.

Toolglass and magic lenses: The see-through interface

[C]// 20th Annual Conference on Computer Graphics and Interactive Techniques. AnaheimACM199373-80. DOI:10.1145/166117.166126

[本文引用: 2]

AGLEDAHL SSTEED A.

Magnification vision: A novel gaze-directed user interface

[C]// 2021 IEEE Conference on Virtual Reality and 3D User Interfaces Abstracts and Workshops (VRW). IEEEPortugal2021474-475. DOI:10.1109/vrw52623.2021.00119

[本文引用: 1]

CARPENDALE M S TCOWPERTHWAITE D JFRACCHIA F D.

Distortion viewing techniques for 3-dimensional data

[C]// Proceedings of IEEE Symposium on Information Visualization. San FranciscoIEEE199646-53. DOI:10.1109/infvis. 1996.559215 .

[本文引用: 1]

CARPENDALE M S TCOWPERTHWAITE D JFRACCHIA F D.

Multi-scale viewing

[C]// 23th International Conference on Computer Graphics and Interactive Techniques. New OrleansACM1996149. DOI:10.1145/253607.253882

[本文引用: 1]

CARPENDALE M S TMONTAGNESE C.

A framework for unifying presentation space

[C]// 14th Annual ACM Symposium on User Interface Software and Technology. OrlandoACM200161-70. DOI:10.1145/502348.502358

[本文引用: 1]

VIOLA IKANITSAR AGROLLER M E.

Importance-driven volume rendering

[C]// IEEE Visualization. AustinIEEE2004139-145. DOI:10.1109/visual.2004.48

[本文引用: 1]

VIOLA IFEIXAS MSBERT Met al.

Importance-driven focus of attention

[J]. IEEE Transactions on Visualization and Computer Graphics, 2006125): 933-940. DOI:10.1109/tvcg.2006.152

[本文引用: 1]

PIETRIGA EAPPERT C.

Sigma lenses: Focus-Context transitions combining space, time and translucence

[C]// SIGCHI Conference on Human Factors in Computing Systems. FlorenceSIGCHI20081343-1352. DOI:10.1145/1357054.1357264

[本文引用: 1]

PIETRIGA EBAU OAPPERT C.

Representation-independent in-place magnification with sigma lenses

[J]. IEEE Transactions on Visualization and Computer Graphics, 2009163): 455-467. doi:10.1109/tvcg.2009.98

[本文引用: 1]

MCGUFFIN M JTANCAU LBALAKRISHNAN R.

Using deformations for browsing volumetric data

[C]// IEEE Visualization. SeattleIEEE2003401-408. DOI:10.1109/visual.2003.1250400

[本文引用: 1]

CORREA CSILVER DCHEN M.

Illustrative deformation for data exploration

[J]. IEEE Transactions on Visualization and Computer Graphics, 2007136): 1320-1327. DOI:10.1109/tvcg.2007.70565

[本文引用: 1]

WANG LZHAO YMUELLER Ket al.

The magic volume lens: An interactive Focus+Context technique for volume rendering

[C]// IEEE Visualization. MinneapolisIEEE2005367-374. DOI:10.1109/visual.2005.1532818

[本文引用: 1]

WANG Y SLEE T YTAI C L.

Focus+Context visualization with distortion minimization

[J]. IEEE Transactions on Visualization and Computer Graphics, 2008146): 1731-1738. DOI:10.1109/tvcg.2008.132

[本文引用: 1]

ZHAO XZENG WGU X Det al.

Conformal magnifier: A Focus+ Context technique with local shape preservation

[J]. IEEE Transactions on Visualization and Computer Graphics, 20121811): 1928-1941. doi:10.1109/tvcg.2012.70

[本文引用: 1]

TAO JWANG CSHENE C Ket al.

A deformation framework for Focus+Context flow visualization

[J]. IEEE Transactions on Visualization and Computer Graphics, 2013201): 42-55. DOI:10.1109/tvcg.2013.100

[本文引用: 1]

ZHAO XSU ZGU X Det al.

Area-preservation mapping using optimal mass transport

[J]. IEEE Transactions on Visualization and Computer Graphics, 20131912): 2838-2847. DOI:10.1109/tvcg.2013.135

[本文引用: 1]

BONNOTTE N.

From Knothe's rearrangement to Brenier's optimal transport map

[J]. SIAM Journal on Mathematical Analysis, 2013451): 64-87. DOI:10.1137/120874850

[本文引用: 1]

KANTOROVICH L V.

On a problem of Monge

[J]. Journal of Mathematical Sciences, 20061334): 1383-1383. DOI:10.1007/s10958-006-0050-9

[本文引用: 2]

BRENIER Y.

Polar factorization and monotone rearrangement of vector-valued functions

[J]. Communications on Pure and Applied Mathematics, 1991444): 375-417. DOI:10.1002/cpa. 3160440402

[本文引用: 1]

ALEXANDROV A D. Convex Polyhedra[M]. BerlinSpringer2005. doi:10.1007/b137434

[本文引用: 1]

AURENHAMMER F.

Power diagrams: Properties, algorithms and applications

[J]. SIAM Journal on Computing, 1987161): 78-96. DOI:10.1137/0216006

[本文引用: 1]

DE BERG MCHEONG OVAN KREVELD M Jet al. Computational Geometry (Algorithms and Applications)[M]. BerlinSpringer2008. doi:10.1007/978-3-540-77974-2

[本文引用: 2]

SI H.

TetGen, a Delaunay-based quality tetrahedral mesh generator

[J]. ACM Transactions on Mathematical Software, 2015412): 1-36. DOI:10. 1145/2629697

[本文引用: 1]

REUTER MWOLTER F EPEINECKE N.

Laplace-Beltrami spectra as "Shape-DNA" of surfaces and solids

[J]. Computer-Aided Design, 2006384): 342-366. DOI:10.1016/j.cad.2005. 10.011

[本文引用: 1]

YUAN ZRONG GGUO Xet al.

Generalized Voronoi diagram computation on GPU

[C]// 2011 8th International Symposium on Voronoi Diagrams in Science and Engineering. QingdaoIEEE201175-82. DOI:10.1109/isvd.2011.18

[本文引用: 1]

/