02_计算机视觉

02_计算机视觉
方向 02 / DIRECTION 02

计算机视觉

Computer Vision

A. 方向画像与考察重点

计算机视觉(Computer Vision, CV)是人工智能最具产业落地价值的方向之一,研究如何让机器"看懂"图像与视频。在同济大学人工智能(拔尖班)"项目制+导师制"双轨培养体系下,CV 方向与电子与信息工程学院、自主智能无人系统前沿科学中心紧密联动,导师库覆盖智能算法、计算机视觉、机器人学、自动驾驶等,并与上海人工智能实验室在语言/多模态大模型、具身智能等方向深度合作。对面试而言,CV 是体现工程智能(AI for Engineering, AI4E)战略最直观的切入口。

面试常考角度可分为三层:其一是基础功底,包括卷积/池化运算、经典 CNN 架构(AlexNet、VGG、ResNet、Inception)的动机与差异;其二是任务理解,涵盖图像分类、目标检测(YOLO、FPN、Anchor)、语义/实例分割、视频理解与 3D 视觉(点云);其三是前沿与落地,如视觉 Transformer(ViT)、数据增强、迁移学习、模型轻量化部署。考官往往从一道概念题切入,再追问公式、trade-off 或工程细节,以考察是否真正理解而非背术语。

结合同济特色,建议重点准备自动驾驶感知算法(多摄像头/激光雷达融合、实时目标检测与分割)、基于 AI 的图像识别应用开发、视觉传感器实时识别等场景。可主动将回答与"工程智能"战略、ChatTJ 大模型、上海人工智能实验室合作方向挂钩,展现对同济 CV 培养路径的认知,这比单纯堆砌模型名称更能打动面试官。

B. 核心概念速查

关键词 以下为高频核心概念,建议逐个能口头复述定义与公式。
  • 卷积运算(Convolution):用可学习的滤波器在图像上滑动做加权求和,提取局部空间特征,是 CNN 的基础算子。
  • 感受野(Receptive Field):输出特征图上一个像素,对应输入图像上影响的区域大小,越深网络感受野越大。
  • ResNet 残差连接:通过恒等捷径(skip connection)学习残差 F(x)=H(x)-x,缓解深层网络退化,可训练上百层。
  • IoU(交并比):预测框与真值框交集除以并集,IoU=|A∩B|/|A∪B|,是检测与分割的核心评价指标。
  • NMS(非极大值抑制):同一目标多个重叠预测框中保留置信度最高者、抑制冗余框的后处理算法。
  • 迁移学习(Transfer Learning):将在大规模数据(如 ImageNet)上预训练的权重迁移到小数据下游任务,提升泛化。
  • 数据增强(Data Augmentation):对训练样本做翻转、裁剪、色彩抖动等变换扩充数据,缓解过拟合、提升鲁棒性。
  • 视觉 Transformer(ViT):将图像切块(patch)序列化,用自注意力建模全局依赖,打破 CNN 局部归纳偏置。

C. 面试真题(Q1–Q30)

Q1请简要说明计算机视觉的主要任务,并举例说明图像分类、目标检测、图像分割三者区别。
EN: Briefly describe the main tasks of CV and distinguish image classification, object detection, and segmentation.
参考回答(中文)
计算机视觉旨在让机器从图像/视频中理解内容,主要任务包括图像分类、目标检测、语义/实例分割、关键点估计、视频理解等。三者区别在于输出粒度:图像分类只给整图一个标签(如"猫");目标检测在分类基础上额外给出每个目标的边界框(bbox)与位置;图像分割则给出逐像素的类别或实例掩码,粒度最细。语义分割不区分同类个体,实例分割对同类不同个体分别标号。可结合自动驾驶场景理解:分类判断前方是否车辆,检测框出车辆位置,分割精确描绘可行驶区域与车辆轮廓,这正是同济 CV 在感知算法中的典型应用。
Reference Answer (EN)
CV enables machines to interpret images/videos. Classification assigns one label per image; detection adds bounding boxes and localization; segmentation gives per-pixel masks. Semantic segmentation labels class per pixel without separating instances; instance segmentation distinguishes individual objects. In autonomous driving: classification tells if a vehicle exists, detection locates it, segmentation outlines drivable area precisely.
备考提示:用"粒度由粗到细"的框架记忆,并准备一个具体应用场景(如自动驾驶感知)来举例,体现同济特色。
Q2卷积层输出特征图尺寸如何计算?写出公式并用一个例子说明。专业重点
EN: How to compute the output size of a convolution? Give the formula and an example.
参考回答(中文)
设输入尺寸为 W,卷积核(filter)大小为 K,填充(padding)为 P,步长(stride)为 S,则输出尺寸为:W_out = ⌊(W − K + 2P) / S⌋ + 1,高宽同理分别计算。例如输入 224×224、卷积核 3×3、padding=1、stride=1 时,输出 = (224−3+2)/1 + 1 = 224,尺寸不变,这是保持分辨率常用的"same padding"设置。若 stride=2、padding=0、K=3,则输出 = (224−3)/2 + 1 = 111(向下取整)。注意当 (W−K+2P) 不能被 S 整除时需向下取整,实际框架中还有"ceil mode"等变体,面试应说明取整约定。该公式是理解网络感受野与计算量的基础。
Reference Answer (EN)
Output size: W_out = floor((W − K + 2P) / S) + 1, applied per spatial dimension. Example: input 224, kernel 3, pad 1, stride 1 → (224−3+2)/1+1 = 224 (same padding). With stride 2, pad 0 → floor((224−3)/2)+1 = 111. Note the floor/rounding convention varies by framework.
备考提示:务必能脱口而出公式并现场算一个例子;常追问 padding 的 "same"/"valid" 含义与感受野关系。
Q3池化(Pooling)操作的作用是什么?最大池化与平均池化有何区别?
EN: What is the role of pooling? Difference between max and average pooling?
参考回答(中文)
池化是一种下采样操作,通常在卷积后施加,主要作用有三:一是降低特征图空间分辨率,减少参数量与计算量;二是提供局部平移不变性,使检测对目标微小位移更鲁棒;三是扩大后续层的感受野。最大池化取窗口内最大值,能突出最显著的特征响应(如边缘、纹理),保留纹理信息,最常用;平均池化取均值,更平滑、保留整体背景信息,常用于全局平均池化(GAP)替代全连接层做分类。二者都不引入可学习参数。面试可补充:过度池化会丢失空间细节,故现代架构(如全卷积、带步长卷积)常减少池化层以保留定位精度,这对分割任务尤为重要。
Reference Answer (EN)
Pooling downsamples feature maps, cutting computation and adding translation invariance while enlarging receptive field. Max pooling keeps the strongest response (texture/saliency); average pooling is smoother, often used as global average pooling to replace fully-connected layers. Both are parameter-free. Modern networks reduce pooling to preserve spatial detail for segmentation.
备考提示:强调"无参数、降维、平移不变"三点;可提 GAP 替代全连接以减小过拟合。
Q4AlexNet 在深度学习史上的意义是什么?它引入了哪些关键技术?
EN: Why was AlexNet significant? What key techniques did it introduce?
参考回答(中文)
AlexNet 在 2012 年 ImageNet(ILSVRC)以大幅领先优势夺冠,top-5 错误率从约 26% 降至 15.3%,引爆了深度学习的复兴。它的关键技术贡献包括:一是首次在大规模图像任务上成功训练深层 CNN,证明深度网络的威力;二是使用 ReLU 激活函数替代 Sigmoid/Tanh,缓解梯度消失并加速收敛;三是采用 Dropout 抑制全连接层过拟合;四是使用数据增强(随机裁剪、翻转)与局部响应归一化(LRN);五是借助 GPU 并行训练,奠定软硬件协同基础。AlexNet 的结构(卷积-池化堆叠 + 全连接)成为后续 VGG、GoogLeNet、ResNet 的设计范式起点。
Reference Answer (EN)
AlexNet won ILSVRC 2012, slashing top-5 error from ~26% to 15.3%, sparking the deep learning revolution. Key contributions: deep CNN at scale, ReLU activation (faster, less vanishing gradient), Dropout against overfitting, data augmentation + LRN, and GPU training. It set the conv-pool-FC template for later architectures.
备考提示:时间点(2012)、top-5 错误率、ReLU/Dropout/GPU 是高频考点,需记牢数字。
Q5VGG 网络的设计哲学是什么?它的优点和缺点分别有哪些?
EN: What is VGG's design philosophy? Its pros and cons?
参考回答(中文)
VGG 的核心是"用小卷积核堆叠替代大卷积核",全部使用 3×3、stride=1、padding=1 的卷积,配合 2×2 max pooling。两个 3×3 卷积堆叠等效于一个 5×5 的感受野,但参数量更少、非线性更多,使决策函数更具判别力。优点:结构极其规整、易于理解与复现,特征提取能力强,常作为骨干网络(backbone)被迁移学习复用。缺点:网络较深(如 VGG16/19)导致参数量巨大(约 1.38 亿),计算与存储开销高,全连接层占多数参数,推理慢。因此现代实践中 VGG 多被 ResNet、MobileNet 等更高效架构取代,但其"模块化堆叠"思想影响深远。
Reference Answer (EN)
VGG uses stacks of 3×3 convolutions instead of large kernels: two 3×3 ≈ one 5×5 receptive field but fewer params and more non-linearity. Pros: simple, regular, strong transferable backbone. Cons: huge parameters (~138M, mostly FC), slow inference. Largely replaced by ResNet/MobileNet but influential in modular design.
备考提示:记住"两个 3×3 ≈ 5×5"的等价性论证,这是考察是否真懂 CNN 的经典追问。
Q6为什么深层网络会出现"退化"问题?ResNet 的残差连接是如何解决的?专业重点
EN: Why does degradation happen in deep nets? How do ResNet's residual connections solve it?
参考回答(中文)
实验发现,单纯加深网络时,训练误差反而上升,这并非过拟合,而是"退化"——深层网络更难优化。原因在于堆叠非线性变换后,恒等映射(identity)难以被学出,梯度在反向传播中易消失/爆炸,使浅层难以更新。ResNet 引入残差学习:令堆叠层拟合残差函数 F(x)=H(x)−x,输出 y=F(x)+x,通过捷径(skip connection)直接将输入加到输出。这样若最优映射接近恒等,F(x) 只需逼近零,易于优化;且捷径提供梯度直通路,缓解梯度消失,使网络可稳定训练至 100+ 层。残差连接基本不增加参数,却显著提升深度可训练性与精度,是现代视觉骨干网络的基石。
Reference Answer (EN)
Degradation: deeper plain nets show higher training error, not from overfitting but harder optimization—identity mapping is hard to learn and gradients vanish. ResNet learns residual F(x)=H(x)−x with y=F(x)+x via skip connections. This makes identity easy (F→0) and gives a gradient shortcut, enabling stable 100+ layer training with negligible extra params.
备考提示:区分"退化"(degradation) 与"过拟合";能写出 y=F(x)+x 并解释梯度通路。
Q7Inception(GoogLeNet)模块的设计动机是什么?它如何平衡多尺度特征与计算量?
EN: What motivated the Inception module? How does it balance multi-scale features and cost?
参考回答(中文)
Inception 的动机是:同一层难以确定最佳感受野尺度,因此并行使用多种尺寸的卷积(1×1、3×3、5×5)与池化,在多个尺度上提取特征后拼接(concat),让网络自己选择。但多分支直接堆叠计算量大,故引入"瓶颈"1×1 卷积先做降维,再接大卷积核,大幅减少参数量与计算量。例如用 1×1 把通道数压低后再做 3×3/5×5,既保留多尺度表达又控制开销。GoogLeNet 还用全局平均池化替代全连接以减少参数,并通过辅助分类器缓解梯度消失。Inception 体现了"稀疏结构、多尺度融合"的思想,后续演化出 Inception-v2/v3/v4 与 Xception(深度可分离卷积)。
Reference Answer (EN)
Inception runs parallel 1×1, 3×3, 5×5 convs and pooling to capture multi-scale features, then concatenates. To control cost, 1×1 "bottleneck" convolutions reduce channels before expensive kernels. GoogLeNet also used global average pooling and auxiliary classifiers. It pioneered multi-scale, sparse, efficient design (later Xception).
备考提示:强调 1×1 瓶颈的"降维省算力"作用,这是 Inception 的精髓,常考 1×1 卷积的多种用途。
Q8什么是感受野?如何通过堆叠卷积层增大感受野,这对检测大物体有何意义?
EN: What is receptive field? How do stacked conv layers enlarge it, and why matters for large objects?
参考回答(中文)
感受野指输出特征图上的一个位置,在输入图像上"看到"的区域大小。单层卷积的感受野等于其核大小;多层堆叠后,第 L 层感受野随层数指数式(线性累积)增长,与核大小、步长、填充相关。增大感受野能让高层神经元整合更大范围的上下文信息。对目标检测而言,小感受野适合识别小物体/细节,大感受野便于捕捉大物体与全局语义。因此在 FPN 等多尺度设计中,深层大感受野特征负责大目标,浅层小感受野负责小目标,二者融合提升全尺度检测能力。理解感受野有助于解释"为什么深层特征适合大物体、浅层适合小物体"这一面试常考点。
Reference Answer (EN)
Receptive field is the input region a feature unit "sees". It grows as conv layers stack (depends on kernel, stride, padding). Larger RF integrates broader context. In detection, deep layers with large RF handle big objects; shallow layers with small RF handle small ones—FPN fuses them for multi-scale accuracy.
备考提示:能用手算或递推解释多层感受野叠加;联系 FPN 的多尺度检测作答更出彩。
Q9常用的数据增强方法有哪些?各自如何提升模型泛化能力?
EN: Common data augmentation methods and how they improve generalization?
参考回答(中文)
数据增强通过对训练样本做可控变换扩充数据分布,缓解过拟合、提升鲁棒性。几何类:随机水平/垂直翻转、随机裁剪(crop)、旋转、缩放,模拟物体姿态与位置变化;色彩类:亮度/对比度/饱和度抖动、随机擦除(CutOut/Random Erasing),降低对颜色与局部纹理的过依赖。高级方法:MixUp 将两图线性叠加并混合标签,CutMix 将一块区域替换并按比例赋标签,强制模型不依赖单一局部。AutoAugment 则用搜索/强化学习自动找最优策略。增强的本质是扩大训练分布的覆盖,使模型对真实场景的扰动更不变。需注意增强强度要匹配任务,过度增强可能引入噪声标签。
Reference Answer (EN)
Geometric: flip, crop, rotate, scale (pose/position invariance). Photometric: brightness/contrast jitter, random erasing (less color/local dependency). Advanced: MixUp, CutMix (blend images/labels, avoid local reliance); AutoAugment (learned policies). Augmentation expands training distribution coverage, improving robustness. Tune intensity to avoid noisy labels.
备考提示:能把增强按"几何/色彩/混合"分类记忆;提到 MixUp/CutMix 显示前沿了解。
Q10什么是迁移学习?在 CV 中预训练+微调(fine-tuning)为何有效,应注意什么?专业重点
EN: What is transfer learning? Why does pretrain+fine-tune work in CV, and what to watch for?
参考回答(中文)
迁移学习把源任务(通常是大规模数据如 ImageNet)上学习到的知识迁移到数据稀少的下游任务。CV 中常见范式是"预训练+微调":先在大库上训练骨干网络获得通用视觉表征(边缘、纹理、形状等底层到中层特征具有跨任务通用性),再在小数据集上用较小学习率微调全网络或仅训练新增分类头。其有效性源于底层特征的通用性以及避免从零训练的大量数据与算力需求。注意事项:一是数据分布差异大时应更多解冻高层、保留低层;二是防止"负迁移",当源任务与目标任务差异过大时收益有限;三是小数据下应加正则、降低学习率以防过拟合;四是警惕源数据偏见被带入。
Reference Answer (EN)
Transfer learning reuses knowledge from a source task (e.g., ImageNet) for a data-scarce target. Pretrain+fine-tune works because low/mid-level features (edges, textures) are universal. Tips: unfreeze higher layers more when domains differ; avoid negative transfer; use small LR and regularization on small data; watch for source bias leakage.
备考提示:"负迁移"是加分概念;能说明冻结哪些层体现对微调的实操理解。
Q11批归一化(Batch Normalization)和 Dropout 分别是如何缓解过拟合或加速训练的?
EN: How do BatchNorm and Dropout help training/overfitting?
参考回答(中文)
BatchNorm 在每层输入做标准化(减均值除方差,再学缩放平移参数 γ、β),使每层输入分布稳定,缓解"内部协变量偏移",从而允许更大学习率、加速收敛,并有轻微正则效果。它通常置于卷积/全连接之后、激活之前(或之后,因版本而异)。Dropout 则在训练时以概率 p 随机置零部分神经元输出,强制网络不依赖特定节点、学得冗余鲁棒表征,等价于集成多种子网络,主要用于抑制过拟合,推理时关闭并按比例缩放。二者定位不同:BN 偏重稳定分布与加速,Dropout 偏重正则。注意 BN 依赖 batch 统计量,batch 过小时效果变差,此时可用 GroupNorm/LayerNorm 替代。
Reference Answer (EN)
BatchNorm standardizes layer inputs (mean 0, var 1, with learnable γ,β), stabilizing distributions, allowing higher LR and speeding convergence, with mild regularization. Dropout randomly zeros neurons during training, forcing redundancy/robustness—an ensemble effect—mainly against overfitting (off at inference). BN needs decent batch size; use GroupNorm/LayerNorm otherwise.
备考提示:区分 BN(加速+稳定)与 Dropout(正则)的不同定位,并提 batch 过小时的替代方案。
Q12目标检测的两阶段(two-stage)与单阶段(one-stage)方法有何区别?各举代表算法。
EN: Difference between two-stage and one-stage detection? Give examples.
参考回答(中文)
两阶段方法先生成候选区域(region proposals),再对候选做分类与回归:代表为 R-CNN 系列,Faster R-CNN 用区域提议网络(RPN)生成候选框,再经 RoI Pooling 分类精修。优点是精度高、定位准;缺点是流程复杂、速度慢。单阶段方法直接在特征图上一次性预测类别与边界框,无需候选生成:代表为 YOLO、SSD、RetinaNet。优点是速度快、易部署,适合实时场景;缺点是密集预测下正负样本极不均衡、小物体检测偏弱(RetinaNet 用 Focal Loss 缓解)。取舍上,实时自动驾驶感知更倾向单阶段/Anchor-free,而追求精度的离线分析可用两阶段。同济自动驾驶感知常需实时性,YOLO 类更具优势。
Reference Answer (EN)
Two-stage (R-CNN, Faster R-CNN with RPN) first proposes regions then classifies/refines—high accuracy, slower. One-stage (YOLO, SSD, RetinaNet) predicts class+box directly—fast, deployment-friendly, but suffers class imbalance (RetinaNet's Focal Loss helps) and weaker small-object recall. Real-time AV perception favors one-stage.
备考提示:用"精度 vs 速度"框架记忆;能联系同济自动驾驶的实时需求举例。
Q13什么是 Anchor(先验框)?为什么需要它,Anchor-free 方法又是如何避开它的?
EN: What are anchors? Why needed, and how do anchor-free methods avoid them?
参考回答(中文)
Anchor 是在特征图每个位置预先设定的一组不同尺度、长宽比的参考框,作为检测框回归的"起点"。它把检测转化为"对每个 anchor 预测类别 + 修正其坐标偏移",利用先验形状引导回归、提升召回,是 Faster R-CNN、YOLOv2-v5、SSD 的基础。但 anchor 需人工设计尺度/比例、引入大量超参,且带来正负样本不均衡。Anchor-free 方法(如 FCOS、CenterNet、YOLOv1/v8 的某些形态)直接预测目标关键点或到边界的距离,例如 FCOS 预测每个点到四条边的距离、CenterNet 预测中心点热力图。其优点是省去 anchor 设计与复杂匹配、简化流水线,近年逐渐成为主流趋势,尤其在轻量化部署中优势明显。
Reference Answer (EN)
Anchors are predefined reference boxes (scales/ratios) at each location; detection regresses offsets from them, improving recall but needing manual design and causing imbalance. Anchor-free methods (FCOS, CenterNet) predict keypoints or distances to boundaries directly, removing anchor design/tuning—simpler and trending, especially for lightweight deployment.
备考提示:能说清 anchor 的"超参负担"痛点,以及 anchor-free 的简化思路,体现前沿视野。
Q14请介绍 YOLO 系列的核心思想,并说明它为什么适合实时检测。专业重点
EN: Core idea of YOLO and why it suits real-time detection?
参考回答(中文)
YOLO(You Only Look Once)将检测视为单一回归问题:把图像划分为 S×S 网格,每个网格预测若干边界框(含坐标、置信度)与类别概率,整个网络一次前向即可输出全部检测结果。其核心是"统一、端到端"——区别于两阶段的候选+分类两步,YOLO 把检测当作一个整体优化,速度极快。后续版本持续演进:v2 引入 anchor 与 BN,v3 用多尺度预测提升小物体,v4/v5 优化数据增强与 backbone,v7/v8 在精度-速度权衡上更强。YOLO 适合实时的原因:单阶段、无候选生成、计算密集度低,可在嵌入式/车载平台达到高帧率,非常契合同济自动驾驶感知"实时目标检测"的工程需求。局限是密集小物体与遮挡场景仍弱于两阶段。
Reference Answer (EN)
YOLO frames detection as one regression: grid S×S, each cell predicts boxes (coords+confidence) and class probs in a single forward pass—unified, end-to-end, no region proposals, hence very fast. Evolved: v2 anchors+BN, v3 multi-scale, v4-v8 better speed/accuracy. Ideal for real-time (e.g., AV perception) due to one-stage efficiency; weaker on dense/small/occluded objects.
备考提示:能概述 YOLOv1→v8 的演进脉络;主动联系"车载实时检测"突出同济特色。
Q15特征金字塔网络(FPN)解决什么问题?它是如何融合多尺度特征的?专业重点
EN: What problem does FPN solve and how does it fuse multi-scale features?
参考回答(中文)
FPN 解决"单尺度特征难以同时检测大、小物体"的问题。CNN 中浅层特征分辨率高、语义弱,适合小物体;深层特征语义强、分辨率低,适合大物体。FPN 采用自顶向下(top-down)路径与横向连接(lateral connection):先把高层低分辨率但语义强的特征上采样,再与同尺度的浅层特征逐元素相加(融合),得到既高分辨率又富含语义的特征金字塔。这样每一层都兼具定位精度与语义信息,使检测器在不同尺度上表现均衡,显著提升小物体召回。FPN 已成为 Faster R-CNN、Mask R-CNN、RetinaNet 的标准组件,也是多摄像头自动驾驶感知中处理远近目标的关键结构。
Reference Answer (EN)
FPN tackles scale variance: shallow layers localize small objects, deep layers semantically detect large ones. It uses a top-down path + lateral connections—upsample deep semantic features and add them element-wise to same-scale shallow features, yielding a high-res, semantic-rich pyramid. Boosts small-object recall; standard in Faster/Mask R-CNN, RetinaNet, and AV multi-camera perception.
备考提示:"自顶向下+横向连接+逐元素相加"是 FPN 三要素,必须能画流程式描述。
Q16非极大值抑制(NMS)的作用与流程是什么?有哪些改进版本?
EN: Role and procedure of NMS? What improved variants exist?
参考回答(中文)
NMS 用于去除同一目标的重复检测框。流程:先按置信度降序排列所有预测框;取最高分框作为保留,将其与剩余框计算 IoU,若 IoU 超过阈值(如 0.5)则抑制(删除)该冗余框;重复直至处理完。经典 NMS 直接删除,缺点是若两真实目标靠得很近易被误删。改进包括:Soft-NMS 不以硬阈值删除,而是按 IoU 降低低分框置信度,保留可能正确的框;DIoU-NMS 在 IoU 中引入中心点距离,更好区分相邻目标;还有基于聚类的后处理。NMS 是检测后处理标配,理解其阈值对召回/精度权衡的影响很重要。
Reference Answer (EN)
NMS removes duplicate boxes: sort by confidence, keep the top box, suppress others with IoU above threshold (e.g., 0.5), repeat. Classic NMS hard-deletes, harming nearby true objects. Soft-NMS decays scores by IoU instead; DIoU-NMS adds center-distance. NMS threshold trades recall vs precision.
备考提示:能描述"按置信度排序+抑制重叠"的流程;Soft-NMS 是常见追问加分项。
Q17交并比(IoU)如何计算?它在检测与分割评价中如何应用?专业重点
EN: How to compute IoU and how is it used in detection/segmentation metrics?
参考回答(中文)
IoU(Intersection over Union)衡量两个区域的重合程度:IoU = |A ∩ B| / |A ∪ B|,即预测区域与真值区域交集面积除以并集面积,取值 0 到 1,越大越好。在目标检测中,预测框与真值框 IoU ≥ 阈值(常用 0.5,或 COCO 的 0.5:0.95 多阈值均值 mAP)即判为正确匹配,并据此计算 mAP 这一核心指标。在语义/实例分割中,IoU 直接逐像素比较预测掩码与真值掩码,常报告 mean IoU(mIoU)。IoU 直观、尺度不变,但对边角误差敏感;其变体 GIoU、DIoU、CIoU 进一步把形状、中心点距离、长宽比纳入损失,可直接作为训练损失优化。掌握 IoU 是评价一切定位任务的基础。
Reference Answer (EN)
IoU = |A∩B| / |A∪B|, ranging 0–1. In detection, a predicted box matches ground truth if IoU ≥ threshold (0.5, or COCO 0.5:0.95 → mAP). In segmentation, per-pixel mask IoU gives mIoU. Scale-invariant but sensitive to boundary error. Variants GIoU/DIoU/CIoU add shape/center/aspect into the loss.
备考提示:必背 IoU 公式;能区分 mAP(检测)与 mIoU(分割),并提 GIoU/DIoU 损失。
Q18语义分割与实例分割的区别是什么?各有哪些典型算法?
EN: Difference between semantic and instance segmentation? Typical methods?
参考回答(中文)
语义分割给图像每个像素标类别,不区分同类不同个体(如所有"车"像素同为车类);实例分割则在语义基础上,对同类每个独立物体分配不同 ID(区分"这辆车"与"那辆车")。典型语义分割:FCN 首次端到端像素预测,SegNet/U-Net 用编码器-解码器与跳跃连接恢复空间细节,DeepLab 用空洞卷积(dilated conv)扩大感受野并引入 CRF/ASPP。典型实例分割:Mask R-CNN 在 Faster R-CNN 上增加掩码头分支,并行输出框与掩码;还有基于检测的 PANet、以及 Anchor-free 的实例分割(如 PolarMask、SOLO)。在自动驾驶中,语义分割用于可行驶区域/车道线,实例分割用于区分前后车辆,二者常结合使用。
Reference Answer (EN)
Semantic segmentation labels every pixel by class, not separating instances; instance segmentation assigns distinct IDs per object of the same class. Semantic: FCN, U-Net, DeepLab (dilated conv/ASPP). Instance: Mask R-CNN (adds mask branch to Faster R-CNN), PANet, SOLO. AV uses semantic for drivable area/lane, instance for distinguishing vehicles.
备考提示:用"是否区分个体"一句话区分二者;Mask R-CNN 是实例分割必提代表作。
Q19全卷积网络(FCN)如何实现端到端的像素级预测?编码器-解码器结构起什么作用?
EN: How does FCN enable end-to-end pixel prediction? Role of encoder-decoder?
参考回答(中文)
传统 CNN 以全连接层输出固定长度向量,丢失空间结构;FCN 将全连接替换为卷积,使网络对任意尺寸输入输出同分辨率的特征图,实现端到端像素级预测。其编码器(下采样主干,如 VGG/ResNet)逐级提取语义并压缩分辨率,获得高级语义但空间粗糙;解码器(上采样/反卷积)将低分辨率特征恢复至原图尺寸,重建空间细节。FCN 还引入跳跃连接(skip connection),把浅层的高分辨率细节与深层语义融合,弥补单纯上采样的信息损失。FCN 奠定了分割"编码器-解码器 + 跳跃连接"的通用范式,后续 U-Net、SegNet 均在此基础上演进,是分割任务的奠基工作。
Reference Answer (EN)
FCN replaces FC layers with convolutions so the net outputs a same-resolution map for any input size—end-to-end pixel prediction. Encoder (backbone) downsamples for semantics; decoder (upsampling/deconv) restores spatial detail. Skip connections fuse shallow high-res detail with deep semantics, fixing upsampling loss. This encoder-decoder+skip template underpins U-Net, SegNet.
备考提示:"全连接换卷积"是 FCN 的关键洞见;编码器-解码器+跳跃连接要能概括。
Q20U-Net 的结构特点是什么?它为何特别适合医学图像等小样本分割?
EN: Structure of U-Net and why it suits medical/small-sample segmentation?
参考回答(中文)
U-Net 因形似"U"得名,由对称的编码器(收缩路径)与解码器(扩张路径)组成,二者间有大量跳跃连接,将编码器的每一层特征直接拼接到解码器对应层。特点:一是跳跃连接把高分辨率细节(边缘、纹理)直接送入解码器,精确恢复边界;二是对称结构使定位与语义兼顾;三是参数相对少、训练所需标注数据少。它特别适合医学影像,因为医学数据标注昂贵、样本少,而 U-Net 通过强数据利用与强几何先验(对称、跳跃)在小样本下仍稳定。该思想也扩展到 3D U-Net、U-Net++、Attention U-Net,广泛应用于同济等场景的视觉传感器图像分割与实时识别。
Reference Answer (EN)
U-Net's U-shape: symmetric encoder (contracting) and decoder (expanding) with dense skip connections concatenating encoder features to decoder. Skips preserve high-res boundaries; symmetric design balances localization and semantics; few params, less labeled data needed. Ideal for medical imaging (scarce annotations) and extends to 3D/Spatial-Attention variants.
备考提示:强调"跳跃连接恢复边界 + 小样本友好",是 U-Net 区别于普通 FCN 的核心。
Q21Mask R-CNN 在 Faster R-CNN 基础上增加了什么?ROI Align 相比 ROI Pooling 解决了什么问题?
EN: What does Mask R-CNN add to Faster R-CNN? How does RoIAlign improve RoIPooling?
参考回答(中文)
Mask R-CNN 在 Faster R-CNN 的检测分支(分类+边框回归)之外,并行增加一个掩码头(mask branch),对每个 RoI 预测像素级前景掩码,从而实现实例分割。它把分类、检测、分割统一在一个网络中。关键改进是用 RoIAlign 替代 RoIPooling:RoIPooling 在做区域到特征图映射时先量化(取整)两次,造成像素级错位(misalignment),损害掩码精度;RoIAlign 取消量化、用双线性插值采样,保留亚像素对齐,使掩码边界更精确,分割与检测精度同时提升。此外 Mask R-CNN 还可扩展用于人体关键点(姿态估计),体现"检测+分割"一体框架的通用性。
Reference Answer (EN)
Mask R-CNN adds a parallel mask branch to Faster R-CNN's classification+box regression, predicting per-RoI pixel masks for instance segmentation. Key fix: RoIAlign replaces RoIPooling—RoIPooling quantizes twice causing misalignment; RoIAlign uses bilinear interpolation without quantization, preserving sub-pixel alignment and boosting mask accuracy. Also extendable to keypoints.
备考提示:"两次量化导致错位"是 RoIPooling 的痛点,RoIAlign 用双线性插值解决——必考细节。
Q22视觉 Transformer(ViT)是如何把 Transformer 用于图像分类的?它相比 CNN 的优势和局限是什么?专业重点
EN: How does ViT apply Transformer to image classification? Pros/cons vs CNN?
参考回答(中文)
ViT 把图像切成若干不重叠的 patch(如 16×16),将每个 patch 展平并线性投影为 token,类似 NLP 的单词序列,再加入位置嵌入(positional embedding)后送入标准 Transformer 编码器(多层自注意力+前馈)。用可学习的 [class] token 汇聚全局信息做分类,训练时需在大规模数据(如 JFT-300M)上预训练才能超越 CNN。优势:自注意力天然建模全局长程依赖,无 CNN 的局部归纳偏置,可随数据/模型规模持续受益(scaling law);局限:数据需求大、缺乏平移不变性等先验、对小数据易过拟合、计算复杂度随 token 数平方增长(高分辨率昂贵)。后续 DeiT、Swin Transformer(分层+窗口注意力)缓解了这些问题,推动 CV 进入"CNN 与 Transformer 融合"时代。
Reference Answer (EN)
ViT splits an image into patches (e.g., 16×16), linearly embeds each as a token with positional embedding, then feeds a standard Transformer encoder. A learnable [CLS] token aggregates global info for classification; needs large-scale pretraining to beat CNNs. Pros: global long-range modeling, scales with data. Cons: data-hungry, lacks inductive biases, quadratic cost. DeiT/Swin (hierarchical, windowed attention) mitigate these.
备考提示:"patch→token→Transformer"流程要能脱口而出;Swin 的窗口注意力是进阶加分点。
Q23CNN 与 Vision Transformer 在归纳偏置(inductive bias)上有何本质差异?
EN: Essential difference in inductive bias between CNN and ViT?
参考回答(中文)
归纳偏置指模型先验假设。CNN 内置强归纳偏置:局部性(locality,卷积只看局部邻域)与平移等变/不变性(weight sharing),使其在小数据上高效、易训练,但受限于局部感受野,建模长程依赖需靠深层堆叠。ViT/Transformer 几乎无空间归纳偏置,靠自注意力从数据中学习任意位置依赖,表达更灵活、全局建模强,但代价是需要海量数据才能学好,小数据下不如 CNN。简言之:CNN 用先验换数据效率,ViT 用数据换表达力。近年趋势是二者融合——如 ConvNeXt 把 CNN 现代化、Swin 给 Transformer 引入局部窗口与层次结构,取长补短,这正是当前视觉骨干网络的研究主线。
Reference Answer (EN)
CNN has strong inductive bias: locality and weight-sharing (translation equivariance), data-efficient but limited long-range modeling. ViT has minimal spatial bias; self-attention learns arbitrary dependencies flexibly but needs massive data. CNN trades priors for efficiency; ViT trades data for expressiveness. Trend: hybrid (ConvNeXt, Swin) combining both.
备考提示:用"先验 vs 数据效率"一句话点透;能举 ConvNeXt/Swin 融合例子更显深度。
Q24自注意力(Self-Attention)机制在视觉任务中如何工作?它计算复杂度的瓶颈在哪?
EN: How does self-attention work in vision, and where is its complexity bottleneck?
参考回答(中文)
视觉中的自注意力把序列 token(patch 或像素/特征点)通过可学习矩阵投影为 Query(Q)、Key(K)、Value(V),计算注意力权重 A=softmax(QKᵀ/√d),再以权重对 V 加权求和,使每个位置聚合全局上下文。其优势是任一位置可直接关注任意远距离位置,突破卷积的局部限制。瓶颈在于复杂度:对 N 个 token,QKᵀ 计算与显存为 O(N²),当图像分辨率高、token 数大时(如高分辨率分割)代价急剧上升。为此有若干缓解:Swin 用局部窗口注意力把复杂度降到 O(N·M²)(M 为窗口大小);金字塔结构(PVT)分层降采样 token 数;以及线性注意力近似。理解该瓶颈有助于解释为何高分辨率视觉仍离不开 CNN 或稀疏注意力。
Reference Answer (EN)
Self-attention projects tokens to Q,K,V; weights A=softmax(QKᵀ/√d) aggregate global context per position. Bottleneck: O(N²) cost in time/memory for N tokens—prohibitive at high resolution. Mitigations: Swin's windowed attention O(N·M²), hierarchical PVT reducing token count, linear attention. Explains why high-res vision still uses CNNs or sparse attention.
备考提示:能写出 A=softmax(QKᵀ/√d) 并解释 √d 的作用(防点积过大);O(N²) 瓶颈必提。
Q25视频理解有哪些典型任务与方法?3D 卷积与光流(optical flow)分别起什么作用?
EN: Typical video understanding tasks/methods? Role of 3D conv and optical flow?
参考回答(中文)
视频理解任务包括动作识别(Action Recognition)、时序检测、视频分割、视频目标跟踪等。方法分三类:一是 3D 卷积网络(如 C3D、I3D、SlowFast),把 2D 卷积扩展为时空 3D 核,直接建模时间维度上的运动信息,SlowFast 用快慢双路径分别捕捉语义与动作细节;二是双流网络(Two-Stream),一路 RGB 抓外观、一路光流(optical flow)抓运动,融合提升动作识别;三是基于视频 Transformer(如 TimeSformer、ViViT)用时空自注意力建模长时序依赖。光流指像素在相邻帧间的位移场,显式编码运动,弥补单帧外观不足;3D 卷积则隐式学习时空特征。视频理解在自动驾驶行为预测、监控中至关重要。
Reference Answer (EN)
Tasks: action recognition, temporal detection, video segmentation, tracking. Methods: 3D CNNs (C3D, I3D, SlowFast) model spatiotemporal kernels; Two-Stream uses RGB + optical flow (motion); video Transformers (TimeSformer) use spatiotemporal attention. Optical flow = pixel displacement field, explicit motion cue; 3D conv learns motion implicitly. Key for AV behavior prediction, surveillance.
备考提示:"双流(RGB+光流)"与"SlowFast 快慢路径"是视频经典考点;能联系自动驾驶。
Q263D 视觉中点云(point cloud)有何特点?典型处理网络(如 PointNet)如何直接处理无序点集?
EN: Characteristics of point clouds? How does PointNet handle unordered points?
参考回答(中文)
点云是激光雷达(LiDAR)等传感器输出的 3D 空间坐标集合 (x,y,z),特点:无序性(点的排列不影响物体)、稀疏性(远处点稀)、非结构化(无像素网格)、旋转/平移等刚体变换不变性需求。传统 CNN 难以直接处理。PointNet 开创性地用对称函数应对无序性:对每个点独立做逐点 MLP 升维,再用最大池化(max pooling)这类对称操作聚合全局特征——无论点的顺序如何,最大池化结果不变,从而保证排列不变性;同时用 T-Net 学习对齐(变换)矩阵实现旋转不变。其升级 PointNet++ 引入分层采样与局部特征聚合,更好捕捉局部几何。点云处理是自动驾驶 3D 目标检测(如检测车辆、行人)的核心技术。
Reference Answer (EN)
Point clouds (LiDAR) are unordered, sparse, unstructured 3D coordinate sets needing pose invariance. PointNet handles disorder via symmetric functions: per-point MLP then max-pooling (order-invariant aggregation), with T-Net for alignment/rotation invariance. PointNet++ adds hierarchical local aggregation. Core for AV 3D detection of vehicles/pedestrians.
备考提示:"无序性→对称函数(max pooling)→排列不变"是 PointNet 的逻辑链,建议背熟。
Q27图像生成的基础框架有哪些?请简要对比 GAN、VAE 与扩散模型(Diffusion)的思路。
EN: Basic image generation frameworks? Compare GAN, VAE, Diffusion.
参考回答(中文)
三大基础框架:一是 GAN,由生成器 G 与判别器 D 对抗博弈,G 试图生成以假乱真的图像骗过 D,D 试图分辨真假, minimax 训练使生成分布逼近真实分布,优点是样本锐利、多样性好,缺点是训练不稳定、易模式崩溃。二是 VAE,用编码器把图像编码为潜变量分布(均值/方差),解码器从采样中重建,靠变分下界(ELBO)优化,能显式建模概率、便于插值,但生成偏模糊。三是扩散模型(如 DDPM),通过逐步加噪再学习反向去噪过程生成图像,训练稳定、质量高,是当前文生图(如 Stable Diffusion)主流,但采样步多、速度慢。三者体现"对抗/概率建模/逐步去噪"的不同生成哲学。
Reference Answer (EN)
GAN: adversarial G vs D minimax—sharp, diverse, but unstable/mode-collapse. VAE: encode to latent distribution, decode via ELBO—probabilistic, good interpolation, blurry. Diffusion (DDPM): gradual noise then learned denoising—stable, high quality, slow sampling; backbone of text-to-image (Stable Diffusion). Three philosophies: adversarial, probabilistic, iterative denoising.
备考提示:用"对抗/概率/去噪"三词概括三类;能提 Stable Diffusion 显示对多模态大模型的了解。
Q28什么是对抗样本(adversarial example)?它对 CV 系统部署(如自动驾驶)意味着什么?
EN: What are adversarial examples? Implications for CV deployment like AV?
参考回答(中文)
对抗样本是对输入施加人眼难以察觉的微小扰动(如按梯度符号添加的噪声,FGSM 方法),却能让模型以高置信度误判。它暴露了深度网络对输入空间非鲁棒、决策边界脆弱的本质。对部署意味着严重安全风险:在自动驾驶中,路牌上细微贴纸可能让感知模型把"停车"误判为"限速",导致事故;人脸识别、医学诊断同样面临攻击。防御方向包括对抗训练(在训练中加入对抗样本)、输入预处理/去噪、梯度掩码、模型集成与认证鲁棒性(certified robustness)等。理解对抗样本有助于在面试中展现对"模型安全性与可靠性"的工程意识,契合同济 AI4E 对可信 AI 的重视。
Reference Answer (EN)
Adversarial examples are tiny, imperceptible perturbations (e.g., FGSM gradient-sign noise) causing high-confidence misclassification, revealing fragile decision boundaries. Deployment risk: in AV, a subtle sticker could misread a stop sign; also threats to face ID/medical AI. Defenses: adversarial training, input denoising, ensemble, certified robustness. Shows awareness of trustworthy AI.
备考提示:用"停车标志贴纸"具象化风险;提对抗训练与可信 AI 加分。
Q29模型轻量化与部署有哪些常用技术?请说明剪枝、量化和知识蒸馏的基本思想。
EN: Common model lightweight/deployment techniques? Pruning, quantization, distillation?
参考回答(中文)
将 CV 模型部署到车载/嵌入式端需轻量化,三大技术:一是模型剪枝(pruning),移除冗余的卷积通道或连接(如基于权重大小/贡献度),降低参数量与计算量,分结构化与非结构化剪枝;二是量化(quantization),将浮点(FP32)权重/激活转为低比特(INT8 甚至二值),以更小的存储与更快的整数运算提速,代价是轻微精度损失,需校准;三是知识蒸馏(knowledge distillation),用大模型(教师)指导小模型(学生),让学生拟合教师 softening 后的输出分布(含暗知识),在更小体量下逼近大模型性能。此外还有高效架构设计(MobileNet 深度可分离卷积、ShuffleNet)。这些技术直接支撑同济"工程智能"在边缘端的实时视觉识别落地。
Reference Answer (EN)
Lightweight for edge/AV deployment: (1) Pruning—remove redundant channels/connections (structured/unstructured). (2) Quantization—FP32→INT8/binary, less storage, faster integer math, slight accuracy loss needing calibration. (3) Distillation—small student mimics large teacher's softened outputs (dark knowledge). Plus efficient architectures (MobileNet depthwise-separable, ShuffleNet).
备考提示:剪枝/量化/蒸馏"三件套"是部署必考;能联系边缘端实时识别凸显同济工程特色。
Q30结合同济大学特色,谈谈计算机视觉在自动驾驶感知中的典型应用,以及你为什么选择这个方向?专业重点
EN: Combining Tongji's strengths, discuss CV applications in autonomous driving perception and why you choose this direction.
参考回答(中文)
同济依托电子与信息工程学院、自主智能无人系统前沿科学中心,并与上海人工智能实验室深度合作,在自动驾驶感知上具有鲜明工程优势。CV 在其中承担核心感知职能:基于多摄像头的实时目标检测(YOLO/FPN 类)识别车辆、行人、交通标志;语义分割勾勒可行驶区域与车道线;3D 点云(LiDAR)处理做三维目标检测与占位栅格;多模态/多传感器融合提升恶劣天气下的鲁棒性。这与学校"工程智能(AI4E)"战略与 ChatTJ 大模型生态高度契合。我选择 CV,是因为它既需要扎实的算法功底(CNN/ViT/检测分割),又能通过项目制、导师制快速投身真实工程,直接服务自动驾驶这类国家急需场景,符合我对"可落地 AI"的追求。后续希望围绕实时、轻量、可信的视觉感知深入研究。
Reference Answer (EN)
Tongji, via the College of EIE, the Frontier Science Center for Autonomous Intelligent Unmanned Systems, and Shanghai AI Lab, excels in AV perception. CV powers real-time multi-camera detection (YOLO/FPN), semantic segmentation of drivable area/lane, LiDAR point-cloud 3D detection, and sensor fusion—aligned with AI4E and ChatTJ. I choose CV for its blend of algorithmic depth (CNN/ViT, detection/segmentation) and deployable engineering impact on AV, matching my goal of practical, trustworthy AI.
备考提示:这是"王牌题",务必把同济三大依托(电信学院/前沿科学中心/上海AI实验室)和 AI4E、ChatTJ、项目制导师制自然嵌入,展现归属感与方向匹配度。

D. 本方向自我介绍定制建议

备考提示:结合 CV 方向的自我介绍,建议围绕以下 4 点打磨,让面试官一眼看出"你是这块料":
1. 锚定具体子方向,避免空泛。不要只说"我对计算机视觉感兴趣",而要明确到如"实时目标检测""医学/自动驾驶图像分割""视觉 Transformer"或"3D 点云感知",并配一句你做过的相关项目/竞赛/课程作业,体现真实投入。
2. 主动挂钩同济特色资源。在结尾自然提及:希望依托项目制+导师制,在电信学院与自主智能无人系统前沿科学中心、上海人工智能实验室的合作框架下,从事自动驾驶感知或 AI4E 相关研究,展现你对培养路径的清晰认知与归属感。
3. 用"基础+前沿"双层结构展示能力。自我介绍可先点出你已掌握的 CV 基础(卷积、ResNet、检测/分割),再补一句前沿关注(ViT、扩散模型、模型轻量化部署),让考官既能追问基础、又能聊趋势,掌握对话主动权。
4. 准备一个可展开的"代表作"故事。挑选一段最能体现你 CV 能力的经历(课程大作业、Kaggle、无人机/机器人视觉、开源复现),用"问题—方法—结果—反思"四句话讲清,面试极可能被深挖,务必能经得起追问公式与 trade-off。
5. 体现工程与可信意识。同济强调工程智能,可在自我介绍末尾补一句对"模型轻量化部署、对抗鲁棒性、可信 AI"的关注,表明你不只追精度,也懂落地与安全,这恰是拔尖班看重的闭环能力。
返回二次选拔

本站为独立信息整理平台,并非学校招生官网,未获学校招生代理授权。招生要求与时间以学校官方最新通知为准。

RELATED

相关文章

同一栏目下的其他内容

山东大学 · 泰山学堂二次选拔

山东大学 · 泰山学堂

泰山 计算机科学取向 · 新生入学二次选拔 · 面试备考指南 面试形式与核心考察点 · 30 道专业面试真题(含参考回答) 专业背景知识 · 自我介绍模板 · 备考技巧 · 附录 基础学科拔尖学生培养试验计划(珠峰计划)

阅读全文 →